Groq: Intelligenz, Leistung und Preise der Modelle
Diese Analyse soll Sie bei der Auswahl des besten von Groq angebotenen Modells für Ihren Anwendungsfall unterstützen.
Höchste Intelligenz
Updated
gpt-oss-120b (high)gpt-oss-120b (low)gpt-oss-20b (low)gpt-oss-20b (high)
Llama 3.3 70BIntelligence Index
Insgesamt 6 Modelle
Am schnellsten
gpt-oss-20b (high)gpt-oss-20b (low)Llama 3.1 8Bgpt-oss-120b (high)gpt-oss-120b (low)Ausgabegeschwindigkeit
Insgesamt 6 Modelle
Niedrigster Preis
Llama 3.1 8Bgpt-oss-20b (low)gpt-oss-20b (high)gpt-oss-120b (high)gpt-oss-120b (low)Mischpreis (pro 1 Mio. Tokens)
Insgesamt 6 Modelle
Groq bietet 6 Modelle mit jeweils unterschiedlichen Merkmalen bei Intelligenz, Leistung und Preis an. Nachfolgend werden die wichtigsten Metriken der Modelle verglichen.
- Bei der Intelligenz sind gpt-oss-120b (high) (12), gpt-oss-120b (low) (10) und gpt-oss-20b (low) (10) die führenden Modelle von Groq.
- Bei der Ausgabegeschwindigkeit sind gpt-oss-20b (high) (918 t/s), gpt-oss-20b (low) (910 t/s) und Llama 3.1 8B (617 t/s) am schnellsten. Die Geschwindigkeit unterscheidet sich deutlich zwischen den Modellen; der Unterschied zwischen dem schnellsten und dem langsamsten beträgt 94 %.
- Bei der Latenz bieten Llama 3.1 8B (0.80 s), Llama 3.3 70B (0.81 s) und gpt-oss-20b (high) (2.93 s) die kürzeste Zeit bis zum ersten Antworttoken.
- Beim Preis bieten Llama 3.1 8B ($0.05), gpt-oss-20b (low) ($0.10) und gpt-oss-20b (high) ($0.10) die niedrigsten Mischpreise pro 1 Mio. Tokens. Die Preise unterscheiden sich zwischen den Modellen bis zum 3.7-Fachen.
- Bei der Größe des Kontextfensters unterstützen gpt-oss-120b (high) (131k), gpt-oss-120b (low) (131k) und gpt-oss-20b (low) (131k) die größten Kontextfenster von Groq.
Intelligenzevaluationen
Artificial Analysis Intelligence Index
Intelligence Evaluations
Agentic knowledge work, (Elo-500)/2000
Agentic real-world work tasks, (Elo-500)/2000
Agentic SaaS workflows
Agentic coding & terminal use
Coding
Reasoning & knowledge
Professional document reasoning, All-pass
Physics reasoning
Knowledge
1 - hallucination rate
Long context reasoning
Legal agentic work, criterion pass rate
Agentic business operations
Agentic scientific research workflows in a terminal
Quantitative analysis on spreadsheets & documents
Kubernetes incident root-cause analysis
Visual reasoning
Medical long context reasoning
Intelligence Index vs. Preis
Kontextfenster
Kontextfenster
Preise
Intelligence Index vs. Preis
Leistungsübersicht
Ausgabegeschwindigkeit vs. Preis
Geschwindigkeit
Gemessen anhand der Ausgabegeschwindigkeit (Tokens pro Sekunde)
Ausgabegeschwindigkeit
Latenz
Gemessen anhand der Zeit (Sekunden) bis zum ersten Token
Latenz: Zeit bis zum ersten Antworttoken
Ende-zu-Ende-Antwortzeit
Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed
Ende-zu-Ende-Antwortzeit vs. Preis
Weitere Analyse | |||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|
gpt-oss-120b (high) | 131k | Offen | 12 | -- | 471 | 0.74 | 6.04 | 4.24 | |||
gpt-oss-120b (low) | 131k | Offen | 10* | -- | 472 | 0.77 | 6.06 | 4.23 | |||
gpt-oss-20b (low) | 131k | Offen | 10* | -- | 918 | 0.82 | 3.54 | 2.18 | |||
gpt-oss-20b (high) | 131k | Offen | 9 | $0.02 | 943 | 0.80 | 3.45 | 2.12 | |||
Llama 3.3 70B | 131k | Offen | 8* | -- | 304 | 0.84 | 2.49 | -- | |||
Llama 3.1 8B | 131k | Offen | 7* | -- | 645 | 0.90 | 1.68 | -- | |||
Wichtige Definitionen
Häufig gestellte Fragen
Häufige Fragen zu Groq
Groq bietet 6 von uns erfasste Modelle an: gpt-oss-120b (high), gpt-oss-120b (low), gpt-oss-20b (low), gpt-oss-20b (high), Llama 3.3 70B und Llama 3.1 8B.
Das intelligenteste bei Groq verfügbare Modell ist gpt-oss-120b (high) mit einem Intelligence-Index-Wert von 12.
Gemessen an der Ausgabegeschwindigkeit ist gpt-oss-20b (high) mit 917.6 Tokens pro Sekunde das schnellste Modell von Groq.
Das Modell von Groq mit der kürzesten Zeit bis zum ersten Antworttoken ist Llama 3.1 8B mit 0.80 s. Eine niedrigere Latenz bedeutet eine schnellere erste Antwort.
Gemessen am Mischpreis ist Llama 3.1 8B mit $0.05 pro 1 Mio. Tokens (Verhältnis von Cache-Treffern, Eingabe und Ausgabe: 7:2:1) das günstigste Modell von Groq.
Die Preise der Modelle von Groq unterscheiden sich bis zum 12-Fachen: von $0.05 pro 1 Mio. Tokens für Llama 3.1 8B bis $0.61 pro 1 Mio. Tokens für Llama 3.3 70B.
Ja, Groq bietet eine OpenAI-kompatible API. Das erleichtert den Wechsel von OpenAI und die Verwendung bestehender Integrationen mit dem OpenAI SDK.
Ja, alle 6 Modelle von Groq unterstützen den JSON-Modus für strukturierte Ausgaben.
Ja, alle 6 Modelle von Groq unterstützen Funktionsaufrufe (Tool-Nutzung).
Ja, Groq bietet 4 Reasoning-Modelle an: gpt-oss-120b (high), gpt-oss-120b (low), gpt-oss-20b (low) und gpt-oss-20b (high). Reasoning-Modelle nutzen ausführliches Schlussfolgern, um komplexe Probleme vor der Antwort zu bearbeiten.
Ja, alle 6 Modelle von Groq haben offene Gewichte.
Ja, die Leistung eines Anbieters kann sich aufgrund von Infrastrukturänderungen, Lastverteilung und Aktualisierungen im Laufe der Zeit verändern. Wir benchmarken alle Anbieter fortlaufend und zeigen historische Leistungstrends in den Diagrammen „Im Zeitverlauf“ an.
Berücksichtigen Sie bei der Auswahl eines Modells von Groq die Intelligenz für qualitätssensible Aufgaben, die Ausgabegeschwindigkeit für durchsatzintensive Aufgaben, die Latenz für interaktive Anwendungen mit schnellen ersten Antworten, die Preise für kostensensible Workloads sowie Funktionen wie die Größe des Kontextfensters, den JSON-Modus und die Unterstützung von Funktionsaufrufen.