Este modelo está obsoleto. Continuamos medindo o desempenho apenas para a carga padrão de 10 mil tokens de entrada. Os resultados de outras cargas são históricos e não são mais atualizados.

Google lançou uma versão mais recente, Gemma 4 E4B. Sugerimos considerá-la como alternativa.

•

Open weights model

•

Released março de 2025

Gemma 3 4B Instruct Benchmarking e análise de provedores de API

Comparação de modelos

Esta análise ajuda você a escolher o melhor provedor de API de Gemma 3 4B Instruct para seu caso de uso.

Mais rápido

#1
AmazonAmazon
189.5 t/s
#2
Parasail (FP8)Parasail (FP8)
168.6 t/s
#3
DeepInfraDeepInfra
31.9 t/s

Velocidade de saída

4 provedores no total

Menor latência

#1
Parasail (FP8)Parasail (FP8)
1.00 s
#2
AmazonAmazon
1.03 s
#3
DeepInfraDeepInfra
1.09 s

Tempo até o primeiro token

4 provedores no total

Menor preço

#1
Google (AI Studio)Google (AI Studio)
$0.00
#2
AmazonAmazon
$0.04
#3
Parasail (FP8)Parasail (FP8)
$0.05
#4
DeepInfraDeepInfra
$0.06

Preço combinado (por 1M de tokens)

4 provedores no total

Gemma 3 4B está disponível em 4 provedores de API, cada um com características de desempenho e preços diferentes. Veja abaixo uma comparação das principais métricas entre os provedores.

  • Em velocidade de saída, os principais provedores são Amazon (189.5 t/s), Parasail (FP8) (168.6 t/s) e DeepInfra (31.9 t/s).
  • Em latência, Parasail (FP8) (1.00s), Amazon (1.03s) e DeepInfra (1.09s) têm o menor tempo até o primeiro token.
  • Em preço, Google (AI Studio) (0.00), Amazon (0.04) e Parasail (FP8) (0.05) têm os menores preços combinados por 1M de tokens.
Output tokens per second · Higher is better
Seconds to first answer token received · Lower is better
USD per 1M tokens (blended) · Lower is better

Preços

Preços: acertos de cache, entrada e saída

Price (USD per M Tokens) · Lower is better · 10,000 input tokens

Preços: Preço combinado

Blended at 7:2:1 (cache-input-output) · USD per 1M tokens (blended) · Lower is better

Velocidade de saída vs. preço

Blended at 7:2:1 (cache-input-output) · Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant

Velocidade

Medida pela velocidade de saída (tokens por segundo)

Velocidade de saída: Gemma 3 4B Instruct

Velocidade de saída: tokens de saída por segundo · 10,000 input tokens

Latência vs. velocidade de saída

Latency: seconds to first token received · Output speed: output tokens per second · 10,000 input tokens
Most attractive quadrant
Pareto line

Latência

Medida pelo tempo (segundos) até o primeiro token

Tempo até o primeiro token

Seconds to first token received · Lower is better · 10,000 input tokens

Tempo de resposta de ponta a ponta

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

Tempo de resposta de ponta a ponta

Seconds to output 500 tokens, including reasoning model 'thinking' time · Lower is better · 10,000 input tokens

Principais métricas de comparação e recursos da API

Logo: Amazon BedrockAmazon Bedrock
128k
Aberto
--
183
1.08
3.81
--
Logo: GoogleGoogle
128k
Aberto
--
--
--
--
--
Logo: ParasailParasail
131k
Aberto
--
111
1.10
5.60
--
Logo: DeepInfraDeepInfra
131k
Aberto
--
21
1.55
25.74
--

Perguntas frequentes

Perguntas comuns sobre os provedores do Gemma 3 4B Instruct