Groq: Intelligenz, Leistung und Preise der Modelle
Diese Analyse soll Sie bei der Auswahl des besten von Groq angebotenen Modells für Ihren Anwendungsfall unterstützen.
Höchste Intelligenz
gpt-oss-120b (high)Intelligence Index
Insgesamt 6 Modelle
Kürzeste Zeit pro Aufgabe
gpt-oss-120b (high)Zeit pro Aufgabe des Intelligence Index (Minuten)
Insgesamt 6 Modelle
Niedrigster Preis
Llama 3.1 8Bgpt-oss-20b (low)gpt-oss-20b (high)gpt-oss-120b (high)gpt-oss-120b (low)Mischpreis (pro 1 Mio. Tokens)
Insgesamt 6 Modelle
Groq bietet 6 Modelle mit jeweils unterschiedlichen Merkmalen bei Intelligenz, Leistung und Preis an. Nachfolgend werden die wichtigsten Metriken der Modelle verglichen.
- Bei der Latenz bieten gpt-oss-120b (low) (1.28 s), Llama 3.3 70B (1.34 s) und gpt-oss-20b (low) (1.51 s) die kürzeste Zeit bis zum ersten Antworttoken.
- Beim Preis bieten Llama 3.1 8B ($0.05), gpt-oss-20b (low) ($0.10) und gpt-oss-20b (high) ($0.10) die niedrigsten Mischpreise pro 1 Mio. Tokens. Die Preise unterscheiden sich zwischen den Modellen bis zum 3.8-Fachen.
- Bei der Größe des Kontextfensters unterstützen gpt-oss-120b (high) (131k), gpt-oss-20b (low) (131k) und gpt-oss-20b (high) (131k) die größten Kontextfenster von Groq.
Intelligenz
Artificial Analysis Intelligence Index
Evaluations
Agentic knowledge work, Elo
Knowledge
1 - hallucination rate
Agentic SaaS workflows
Agentic scientific research workflows in a terminal
Agentic software engineering in open-source repositories
Reasoning & knowledge
Professional document reasoning, All-pass
Agentic coding & terminal use
Physics reasoning
Quantitative analysis on spreadsheets & documents
Legal agentic work, Hallucination-Gated All-Pass Rate
Agentic business operations
Agentic real-world work tasks, Elo
Agentic interactive 3D experiences, Elo
Product and brand videos designed in code, Elo
Kubernetes incident root-cause analysis
Medical long context reasoning
Visual reasoning
Rich, varied, well-crafted language
Well-structured, scannable, answer-first
Truthful, acknowledges uncertainty, non-sycophantic
Use of filler and generic language
Intelligence Index vs. Preis
Preise
Kosten pro Aufgabe des Intelligence Index
Intelligence Index vs. Preis
Geschwindigkeit
Durchschnitt der gemessenen Workloads mit einzelnen Anfragen und agentischen Multi-Turn-Sitzungen
Zeit pro Aufgabe des Intelligence Index
Qualität
Endpoint Accuracy Index
Latenz
Durchschnitt der gemessenen Workloads mit einzelnen Anfragen und agentischen Multi-Turn-Sitzungen
Zeit bis zum ersten Antworttoken
Zuverlässigkeit
Anteil der fehlgeschlagenen Anfragen des Endpunkts über alle gemessenen Workloads mit einzelnen Anfragen und agentischen Multi-Turn-Sitzungen
Endpunkt-Fehlerrate
Caching
Cache-Trefferquote
Kosten pro Aufgabe vs. Cache-Trefferquote
Weitere Analyse | ||||||||||
|---|---|---|---|---|---|---|---|---|---|---|
gpt-oss-120b (high) | 4 | $0.32 | 3.2 | 5.54 | 1.6% | 131k | Offen | |||
gpt-oss-20b (low) | -- | -- | -- | 1.48 | 4.3% | 131k | Offen | |||
gpt-oss-20b (high) | -- | -- | -- | 7.55 | 4.0% | 131k | Offen | |||
Llama 3.1 8B | -- | -- | -- | 1.49 | 0.0% | 131k | Offen | |||
Llama 3.3 70B | -- | -- | -- | 1.36 | 0.7% | 131k | Offen | |||
gpt-oss-120b (low) | -- | -- | -- | 1.32 | 4.3% | 131k | Offen | |||
Wichtige Definitionen
Häufig gestellte Fragen
Häufige Fragen zu Groq
Groq bietet 6 von uns erfasste Modelle an: gpt-oss-120b (high), gpt-oss-20b (low), gpt-oss-20b (high), Llama 3.1 8B, Llama 3.3 70B und gpt-oss-120b (low).
Das intelligenteste bei Groq verfügbare Modell ist gpt-oss-120b (high) mit einem Wert von 4 im Intelligence Index.
Das Modell von Groq mit der kürzesten Zeit pro Aufgabe ist gpt-oss-120b (high) mit 3.1 Minuten pro Aufgabe des Intelligence Index. Die Zeit pro Aufgabe ergibt sich aus den Ausgabetokens pro Aufgabe geteilt durch die Ende-zu-Ende-Ausgabegeschwindigkeit; ein niedrigerer Wert bedeutet, dass eine Aufgabe schneller abgeschlossen wird.
Das Modell von Groq mit der kürzesten Zeit bis zum ersten Antworttoken ist gpt-oss-120b (low) mit 1.28 s. Eine niedrigere Latenz bedeutet eine schnellere erste Antwort.
Gemessen am Mischpreis ist Llama 3.1 8B mit $0.053 pro 1 Mio. Tokens (Verhältnis von Cache-Treffern, Eingabe und Ausgabe: 7:2:1) das günstigste Modell von Groq.
Die Preise der Modelle von Groq unterscheiden sich bis zum 11.5-Fachen: von $0.053 pro 1 Mio. Tokens für Llama 3.1 8B bis $0.61 pro 1 Mio. Tokens für Llama 3.3 70B.
Ja, Groq bietet eine OpenAI-kompatible API. Das erleichtert den Wechsel von OpenAI und die Verwendung bestehender Integrationen mit dem OpenAI SDK.
Ja, alle 6 Modelle von Groq unterstützen den JSON-Modus für strukturierte Ausgaben.
Ja, alle 6 Modelle von Groq unterstützen Funktionsaufrufe (Tool-Nutzung).
Ja, Groq bietet 4 Reasoning-Modelle an: gpt-oss-120b (high), gpt-oss-20b (low), gpt-oss-20b (high) und gpt-oss-120b (low). Reasoning-Modelle nutzen ausführliches Schlussfolgern, um komplexe Probleme vor der Antwort zu bearbeiten.
Ja, alle 6 Modelle von Groq haben offene Gewichte.
Ja, die Leistung eines Anbieters kann sich aufgrund von Infrastrukturänderungen, Lastverteilung und Aktualisierungen im Laufe der Zeit verändern. Wir benchmarken alle Anbieter fortlaufend und zeigen historische Leistungstrends in den Diagrammen „Im Zeitverlauf“ an.
Berücksichtigen Sie bei der Auswahl eines Modells von Groq die Intelligenz für qualitätssensible Aufgaben, die Zeit pro Aufgabe, also wie schnell das Modell eine Aufgabe des Intelligence Index erledigt, die Latenz für interaktive Anwendungen mit schnellen ersten Antworten, die Preise für kostensensible Workloads sowie Funktionen wie die Größe des Kontextfensters, den JSON-Modus und die Unterstützung von Funktionsaufrufen.