Dieses Modell ist veraltet. Wir messen die Leistung nur noch für die Standard-Workload mit 10.000 Eingabe-Tokens. Ergebnisse für andere Workloads sind historische Daten und werden nicht mehr aktualisiert.

Google hat eine neuere Version veröffentlicht: Gemma 4 31B. Wir empfehlen, diese als Alternative in Betracht zu ziehen.

•

Open weights model

•

Released März 2025

Gemma 3 27B Instruct Benchmarking und Analyse von API-Anbietern

Modellvergleich

Diese Analyse soll Sie bei der Auswahl des besten API-Anbieters von Gemma 3 27B Instruct für Ihren Anwendungsfall unterstützen.

Am schnellsten

#1
AmazonAmazon
73.6 t/s
#2
Nebius (FP8)Nebius (FP8)
56.4 t/s
#3
ParasailParasail
37.4 t/s
#4
NovitaNovita
31.8 t/s
#5
DeepInfraDeepInfra
21.9 t/s

Ausgabegeschwindigkeit

Insgesamt 6 Anbieter

Niedrigste Latenz

#1
AmazonAmazon
1.39 s
#2
DeepInfraDeepInfra
1.50 s
#3
NovitaNovita
1.65 s
#4
Nebius (FP8)Nebius (FP8)
2.27 s
#5
ParasailParasail
2.33 s

Zeit bis zum ersten Token

Insgesamt 6 Anbieter

Niedrigster Preis

#1
Google (AI Studio)Google (AI Studio)
$0.00
#2
DeepInfraDeepInfra
$0.09
#3
ParasailParasail
$0.09
#4
Nebius (FP8)Nebius (FP8)
$0.12
#5
NovitaNovita
$0.13

Mischpreis (pro 1 Mio. Tokens)

Insgesamt 6 Anbieter

Gemma 3 27B ist über 6 API-Anbieter verfügbar, die jeweils unterschiedliche Leistungsmerkmale und Preise bieten. Im Folgenden werden die wichtigsten Metriken der Anbieter verglichen.

  • Bei der Ausgabegeschwindigkeit führen Amazon (73.6 Tokens/s), Nebius (FP8) (56.4 Tokens/s) und Parasail (37.4 Tokens/s). Die Geschwindigkeit unterscheidet sich erheblich zwischen den Anbietern: Der Unterschied zwischen dem schnellsten und langsamsten beträgt 237 %.
  • Bei der Latenz bieten Amazon (1.39 s), DeepInfra (1.50 s) und Novita (1.65 s) die niedrigste Zeit bis zum ersten Token.
  • Bei den Preisen bieten Google (AI Studio) (0.00), DeepInfra (0.09) und Parasail (0.09) die niedrigsten Mischpreise pro 1 Mio. Tokens.
  • Amazon bietet mit der höchsten Geschwindigkeit und der niedrigsten Latenz die beste Leistung. Für eine Kostenoptimierung bietet Google (AI Studio) den konkurrenzfähigsten Preis.
Output tokens per second · Higher is better
Seconds to first answer token received · Lower is better
USD per 1M tokens (blended) · Lower is better

Preise

Preise: Cache-Treffer, Eingabe und Ausgabe

Price (USD per M Tokens) · Lower is better · 10,000 input tokens

Preise: Mischpreis

Blended at 7:2:1 (cache-input-output) · USD per 1M tokens (blended) · Lower is better

Preise: Cache-Rabatt

1 - (cache hit price / input price) · Higher is better

Ausgabegeschwindigkeit vs. Preis

Blended at 7:2:1 (cache-input-output) · Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant
Pareto line

Geschwindigkeit

Gemessen anhand der Ausgabegeschwindigkeit (Tokens pro Sekunde)

Ausgabegeschwindigkeit: Gemma 3 27B Instruct

Ausgabegeschwindigkeit: Ausgabe-Token pro Sekunde · 10,000 input tokens

Latenz vs. Ausgabegeschwindigkeit

Latency: seconds to first token received · Output speed: output tokens per second · 10,000 input tokens
Most attractive quadrant

Latenz

Gemessen anhand der Zeit (in Sekunden) bis zum ersten Token

Zeit bis zum ersten Token

Seconds to first token received · Lower is better · 10,000 input tokens

Ende-zu-Ende-Antwortzeit

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

Ende-zu-Ende-Antwortzeit

Seconds to output 500 tokens, including reasoning model 'thinking' time · Lower is better · 10,000 input tokens

Wichtige Vergleichsmetriken und API-Funktionen

Logo von Amazon BedrockAmazon Bedrock
128k
Offen
$0.47
59
1.44
9.95
--
Logo von DeepInfraDeepInfra
131k
Offen
$0.16
27
1.28
19.75
--
Logo von NebiusNebius
110k
Offen
$0.20
49
3.07
13.31
--
Logo von GoogleGoogle
128k
Offen
$0.00
--
--
--
--
Logo von ParasailParasail
131k
Offen
$0.10
41
1.79
13.86
--
Logo von NovitaNovita
98.3k
Offen
$0.24
32
1.65
17.18
--

Häufig gestellte Fragen

Häufige Fragen zu den Anbietern von Gemma 3 27B Instruct