Open weights model

Released August 2026

Granite 4.2 8B Benchmarking und Analyse von API-Anbietern

Modellvergleich

Diese Analyse soll Sie bei der Auswahl des besten API-Anbieters von Granite 4.2 8B für Ihren Anwendungsfall unterstützen.

Am schnellsten

#1
CoreWeaveCoreWeave
89.6 t/s
#2
DeepInfraDeepInfra
67.1 t/s

Ausgabegeschwindigkeit

Insgesamt 2 Anbieter

Niedrigste Latenz

#1
CoreWeaveCoreWeave
23.08 s
#2
DeepInfraDeepInfra
30.44 s

Zeit bis zum ersten Antworttoken

Insgesamt 2 Anbieter

Niedrigster Preis

#1
DeepInfraDeepInfra
$0.05
#2
CoreWeaveCoreWeave
$0.07

Mischpreis (pro 1 Mio. Tokens)

Insgesamt 2 Anbieter

Granite 4.2 8B ist über 2 API-Anbieter verfügbar, die jeweils unterschiedliche Leistungsmerkmale und Preise bieten. Im Folgenden werden die wichtigsten Metriken der Anbieter verglichen.

  • Bei der Ausgabegeschwindigkeit führen CoreWeave (89.6 Tokens/s) und DeepInfra (67.1 Tokens/s).
  • Bei der Latenz bieten CoreWeave (23.08 s) und DeepInfra (30.44 s) die niedrigste Zeit bis zum ersten Antworttoken.
  • Bei den Preisen bieten DeepInfra (0.05) und CoreWeave (0.07) die niedrigsten Mischpreise pro 1 Mio. Tokens.
  • CoreWeave bietet mit der höchsten Geschwindigkeit und der niedrigsten Latenz die beste Leistung. Für eine Kostenoptimierung bietet DeepInfra den konkurrenzfähigsten Preis.

Wichtigste Ergebnisse

Output tokens per second · Higher is better
Seconds · Lower is better
USD per 1M tokens (blended) · Lower is better

Aktualisierung: Der Standard-Workload für das Performance-Benchmarking wurde auf 10k Eingabetokens umgestellt, um Produktionsanwendungsfälle besser abzubilden. Oben können weiterhin andere Workloads ausgewählt werden.

Preise

Pricing: Cache Hit, Input, and Output

Price (USD per M Tokens) · Lower is better · 10,000 input tokens

Pricing: Blended Price

Blended at 7:2:1 (cache-input-output) · USD per 1M tokens (blended) · Lower is better

Pricing: Cache Discount

1 - (cache hit price / input price) · Higher is better

Output Speed vs. Price

Blended at 7:2:1 (cache-input-output) · Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant
Pareto line

Geschwindigkeit

Gemessen anhand der Ausgabegeschwindigkeit (Tokens pro Sekunde)

Output Speed: Granite 4.2 8B

Output speed: output tokens per second · 10,000 input tokens

Latency vs. Output Speed

Latency: seconds to first token received · Output speed: output tokens per second · 10,000 input tokens
Most attractive quadrant
Pareto line

Latenz

Gemessen anhand der Zeit (in Sekunden) bis zum ersten Token

Zeit bis zum ersten Antworttoken

Seconds to first token received · Lower is better · 10,000 input tokens

Ende-zu-Ende-Antwortzeit

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

Ende-zu-Ende-Antwortzeit

Seconds to output 500 tokens, including reasoning model 'thinking' time · Lower is better · 10,000 input tokens

Wichtige Vergleichsmetriken und API-Funktionen

Logo von CoreWeaveCoreWeave
131k
Offen
$0.06
90
0.76
28.66
22.32
Logo von DeepInfraDeepInfra
131k
Offen
$0.02
67
0.64
37.89
29.80

Häufig gestellte Fragen

Häufige Fragen zu den Anbietern von Granite 4.2 8B