gpt-oss-120b (Low) Benchmarking und Analyse von API-Anbietern
Diese Analyse soll Sie bei der Auswahl des besten API-Anbieters von gpt-oss-120b (Low) für Ihren Anwendungsfall unterstützen.
Am schnellsten
Cerebras
SambaNova
Groq
Azure
Nebius BaseAusgabegeschwindigkeit
Insgesamt 17 Anbieter
Niedrigste Latenz
CerebrasSambaNovaGroqAzure
BasetenZeit bis zum ersten Antworttoken
Insgesamt 17 Anbieter
Niedrigster Preis
CoreWeave
DeepInfra
Crusoe
Novita
Google VertexMischpreis (pro 1 Mio. Tokens)
Insgesamt 17 Anbieter
gpt-oss-120b (low) ist über 17 API-Anbieter verfügbar, die jeweils unterschiedliche Leistungsmerkmale und Preise bieten. Im Folgenden werden die wichtigsten Metriken der Anbieter verglichen.
- Bei der Ausgabegeschwindigkeit führen Cerebras (1,687.8 Tokens/s), SambaNova (745.7 Tokens/s) und Groq (471.9 Tokens/s). Die Geschwindigkeit unterscheidet sich erheblich zwischen den Anbietern: Der Unterschied zwischen dem schnellsten und langsamsten beträgt 4246 %.
- Bei der Latenz bieten Cerebras (1.59 s), SambaNova (3.94 s) und Groq (4.94 s) die niedrigste Zeit bis zum ersten Antworttoken.
- Bei den Preisen bieten CoreWeave (0.04), DeepInfra (0.05) und Crusoe (0.07) die niedrigsten Mischpreise pro 1 Mio. Tokens. Die Preise unterscheiden sich je nach Anbieter bis zum 8.9-Fachen.
- Cerebras bietet mit der höchsten Geschwindigkeit und der niedrigsten Latenz die beste Leistung. Für eine Kostenoptimierung bietet CoreWeave den konkurrenzfähigsten Preis.
Aktualisierung: Der Standard-Workload für das Performance-Benchmarking wurde auf 10k Eingabetokens umgestellt, um Produktionsanwendungsfälle besser abzubilden. Oben können weiterhin andere Workloads ausgewählt werden.
Preise
Preise: Cache-Treffer, Eingabe und Ausgabe
Preise: Mischpreis
Preise: Cache-Rabatt
Ausgabegeschwindigkeit vs. Preis
Geschwindigkeit
Gemessen anhand der Ausgabegeschwindigkeit (Tokens pro Sekunde)
Ausgabegeschwindigkeit: gpt-oss-120b (Low)
Latenz vs. Ausgabegeschwindigkeit
Latenz
Gemessen anhand der Zeit (in Sekunden) bis zum ersten Token
Zeit bis zum ersten Antworttoken
Ende-zu-Ende-Antwortzeit
Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed
Ende-zu-Ende-Antwortzeit
Wichtige Vergleichsmetriken und API-Funktionen
 Snowflake | 131k | Offen | -- | -- | -- | -- | -- | ||
 Hyperbolic | 131k | Offen | -- | -- | -- | -- | -- | ||
| Nebius | 128k | Offen | -- | 242 | 0.98 | 11.30 | 8.26 | ||
| SambaNova | 131k | Offen | -- | 727 | 1.73 | 5.17 | 2.75 | ||
| Google | 131k | Offen | -- | 60 | 3.03 | 44.38 | 33.08 | ||
| Crusoe | 131k | Offen | -- | 185 | 0.38 | 13.91 | 10.82 | ||
| DeepInfra | 131k | Offen | -- | 44 | 0.72 | 56.96 | 44.99 | ||
| CoreWeave | 131k | Offen | -- | 45 | 1.29 | 56.89 | 44.48 | ||
| Cerebras | 131k | Offen | -- | 1,709 | 0.42 | 1.88 | 1.17 | ||
| Microsoft Azure | 131k | Offen | -- | 328 | 0.87 | 8.49 | 6.10 | ||
 Cloudflare | 128k | Offen | -- | -- | -- | -- | -- | ||
| Baseten | 128k | Offen | -- | 211 | 0.21 | 12.06 | 9.48 | ||
 Amazon Bedrock | 131k | Offen | -- | 88 | 1.11 | 29.56 | 22.76 | ||
 Parasail | 131k | Offen | -- | 143 | 0.80 | 18.24 | 13.95 | ||
 Together AI | 131k | Offen | -- | -- | -- | -- | -- | ||
| Groq | 131k | Offen | -- | 472 | 0.77 | 6.06 | 4.23 | ||
| Novita | 131k | Offen | -- | 185 | 1.10 | 14.63 | 10.82 | ||
Häufig gestellte Fragen
Häufige Fragen zu den Anbietern von gpt-oss-120b (Low)
gpt-oss-120b (Low) ist über 17 API-Anbieter verfügbar: Snowflake, Hyperbolic, Nebius Base, SambaNova, Google Vertex, Crusoe, DeepInfra, CoreWeave, Cerebras, Azure, Cloudflare, Baseten, Amazon, Parasail, Together AI, Groq und Novita. Jeder Anbieter bietet unterschiedliche Leistungsmerkmale und Preise.
gpt-oss-120b (Low) ist derzeit über 17 API-Anbieter, die wir bewerten und beobachten verfügbar.
Alle 17 Anbieter von gpt-oss-120b (Low) unterstützen den JSON-Modus für strukturierte Ausgaben.
16 von 17 Anbietern unterstützen Funktionsaufrufe für gpt-oss-120b (Low): Hyperbolic, Nebius Base, SambaNova, Google Vertex, Crusoe, DeepInfra, CoreWeave, Cerebras, Azure, Cloudflare, Baseten, Amazon, Parasail, Together AI, Groq und Novita.
Berücksichtigen Sie bei der Wahl eines Anbieters für gpt-oss-120b (Low) die Ausgabegeschwindigkeit für durchsatzintensive Aufgaben, die Latenz für interaktive Anwendungen mit schneller erster Reaktion, den Preis für kostensensible Workloads und API-Funktionen wie den JSON-Modus oder Funktionsaufrufe.
Ja, die Leistung eines Anbieters kann sich durch Änderungen an der Infrastruktur, Lastverteilung und Aktualisierungen im Laufe der Zeit verändern. Wir bewerten alle Anbieter fortlaufend und zeigen historische Leistungstrends in den Diagrammen „Im Zeitverlauf“ an.
Informationen zur Intelligenz, zu den Fähigkeiten und Modalitäten von gpt-oss-120b (Low) sowie zum Vergleich mit anderen Modellen finden Sie auf der Modellübersichtsseite. Modellübersicht anzeigen