Dieses Modell ist veraltet. Wir messen die Leistung nur noch für die Standard-Workload mit 10.000 Eingabe-Tokens. Ergebnisse für andere Workloads sind historische Daten und werden nicht mehr aktualisiert.

Google hat eine neuere Version veröffentlicht: Gemma 4 E4B. Wir empfehlen, diese als Alternative in Betracht zu ziehen.

•

Open weights model

•

Released März 2025

Gemma 3 4B Instruct Benchmarking und Analyse von API-Anbietern

Modellvergleich

Diese Analyse soll Sie bei der Auswahl des besten API-Anbieters von Gemma 3 4B Instruct für Ihren Anwendungsfall unterstützen.

Am schnellsten

#1
AmazonAmazon
183.9 t/s
#2
Parasail (FP8)Parasail (FP8)
116.4 t/s
#3
DeepInfraDeepInfra
88.2 t/s

Ausgabegeschwindigkeit

Insgesamt 4 Anbieter

Niedrigste Latenz

#1
DeepInfraDeepInfra
0.71 s
#2
AmazonAmazon
0.97 s
#3
Parasail (FP8)Parasail (FP8)
1.02 s

Zeit bis zum ersten Token

Insgesamt 4 Anbieter

Niedrigster Preis

#1
Google (AI Studio)Google (AI Studio)
$0.00
#2
AmazonAmazon
$0.04
#3
Parasail (FP8)Parasail (FP8)
$0.05
#4
DeepInfraDeepInfra
$0.06

Mischpreis (pro 1 Mio. Tokens)

Insgesamt 4 Anbieter

Gemma 3 4B ist über 4 API-Anbieter verfügbar, die jeweils unterschiedliche Leistungsmerkmale und Preise bieten. Im Folgenden werden die wichtigsten Metriken der Anbieter verglichen.

  • Bei der Ausgabegeschwindigkeit führen Amazon (183.9 Tokens/s), Parasail (FP8) (116.4 Tokens/s) und DeepInfra (88.2 Tokens/s).
  • Bei der Latenz bieten DeepInfra (0.71 s), Amazon (0.97 s) und Parasail (FP8) (1.02 s) die niedrigste Zeit bis zum ersten Token.
  • Bei den Preisen bieten Google (AI Studio) (0.00), Amazon (0.04) und Parasail (FP8) (0.05) die niedrigsten Mischpreise pro 1 Mio. Tokens.
Output tokens per second · Higher is better
Seconds to first answer token received · Lower is better
USD per 1M tokens (blended) · Lower is better

Preise

Preise: Cache-Treffer, Eingabe und Ausgabe

Price (USD per M Tokens) · Lower is better · 10,000 input tokens

Kosten pro Aufgabe des Intelligence Index

Weighted average cost (USD) per Intelligence Index task · Segmented by token type · Lower is better
No data available

Ausgabegeschwindigkeit im Vergleich zu Preis

Blended at 7:2:1 (cache-input-output) · Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant

Geschwindigkeit

Gemessen anhand der Ausgabegeschwindigkeit (Tokens pro Sekunde)

Ausgabegeschwindigkeit: Gemma 3 4B Instruct

Ausgabegeschwindigkeit: Ausgabe-Token pro Sekunde · 10,000 input tokens

Zeit pro Aufgabe des Intelligence Index

Weighted average decode time (minutes) per Intelligence Index task · Excludes TTFT and overhead time · Lower is better
No data available

Kosten pro Aufgabe im Vergleich zu Zeit pro Aufgabe

Weighted average cost (USD) per Intelligence Index task · Weighted average decode time (minutes) per Intelligence Index task
Most attractive quadrant
No data available

Latenz

Gemessen anhand der Zeit (in Sekunden) bis zum ersten Token

Zeit bis zum ersten Token

Seconds to first token received · Lower is better · 10,000 input tokens

Ende-zu-Ende-Antwortzeit

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

Ende-zu-Ende-Antwortzeit

Seconds to output 500 tokens, including reasoning model 'thinking' time · Lower is better · 10,000 input tokens

Wichtige Vergleichsmetriken und API-Funktionen

Logo von Amazon BedrockAmazon Bedrock
128k
Offen
--
188
1.07
3.73
--
Logo von GoogleGoogle
128k
Offen
--
--
--
--
--
Logo von ParasailParasail
131k
Offen
--
170
1.05
3.99
--
Logo von DeepInfraDeepInfra
131k
Offen
--
68
0.79
8.14
--

Häufig gestellte Fragen

Häufige Fragen zu den Anbietern von Gemma 3 4B Instruct