This model is deprecated. We only continue performance benchmarking for the default 10k input token workload. Results for other workloads are historical and no longer updated.

Google has launched a newer model, Gemma 4 E4B. We suggest considering it instead.

For more information, see comparison of Gemma 4 E4B to other models and API provider benchmarks for Gemma 4 E4B.

Open weights model

Released março de 2025

Gemma 3 4B Instruct Benchmarking e análise de provedores de API

Comparação de modelos

Esta análise ajuda você a escolher o melhor provedor de API de Gemma 3 4B Instruct para seu caso de uso.

Mais rápido

#1
AmazonAmazon
195.3 t/s
#2
DeepInfraDeepInfra
18.9 t/s

Velocidade de saída

3 provedores no total

Menor latência

#1
AmazonAmazon
1.02 s
#2
DeepInfraDeepInfra
1.71 s

Tempo até o primeiro token

3 provedores no total

Menor preço

#1
Google (AI Studio)Google (AI Studio)
$0.00
#2
AmazonAmazon
$0.04
#3
DeepInfraDeepInfra
$0.06

Preço combinado (por 1M de tokens)

3 provedores no total

Gemma 3 4B está disponível em 3 provedores de API, cada um com características de desempenho e preços diferentes. Veja abaixo uma comparação das principais métricas entre os provedores.

  • Em velocidade de saída, os principais provedores são Amazon (195.3 t/s) e DeepInfra (18.9 t/s).
  • Em latência, Amazon (1.02s) e DeepInfra (1.71s) têm o menor tempo até o primeiro token.
  • Em preço, Google (AI Studio) (0.00), Amazon (0.04) e DeepInfra (0.06) têm os menores preços combinados por 1M de tokens.
  • Amazon oferece o melhor desempenho, com a maior velocidade e a menor latência. Para otimizar os custos, Google (AI Studio) tem o preço mais competitivo.

Destaques

Output tokens per second · Higher is better
Seconds · Lower is better
USD per 1M tokens (blended) · Lower is better

Preços

Pricing: Cache Hit, Input, and Output

Price (USD per M Tokens) · Lower is better · 10,000 input tokens

Pricing: Blended Price

Blended at 7:2:1 (cache-input-output) · USD per 1M tokens (blended) · Lower is better

Output Speed vs. Price

Blended at 7:2:1 (cache-input-output) · Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant

Velocidade

Medida pela velocidade de saída (tokens por segundo)

Output Speed: Gemma 3 4B Instruct

Output speed: output tokens per second · 10,000 input tokens

Latency vs. Output Speed

Latency: seconds to first token received · Output speed: output tokens per second · 10,000 input tokens
Most attractive quadrant

Latência

Medida pelo tempo (segundos) até o primeiro token

Tempo até o primeiro token

Seconds to first token received · Lower is better · 10,000 input tokens

Tempo de resposta de ponta a ponta

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

Tempo de resposta de ponta a ponta

Seconds to output 500 tokens, including reasoning model 'thinking' time · Lower is better · 10,000 input tokens

Principais métricas de comparação e recursos da API

Logo: Amazon BedrockAmazon Bedrock
128k
Aberto
--
193
1.02
3.61
--
Logo: GoogleGoogle
128k
Aberto
--
--
--
--
--
Logo: DeepInfraDeepInfra
131k
Aberto
--
22
1.52
23.96
--

Perguntas frequentes

Perguntas comuns sobre os provedores do Gemma 3 4B Instruct