Este modelo está obsoleto. Continuamos medindo o desempenho apenas para a carga padrão de 10 mil tokens de entrada. Os resultados de outras cargas são históricos e não são mais atualizados.

Google lançou uma versão mais recente, Gemma 4 26B A4B. Sugerimos considerá-la como alternativa.

•

Open weights model

•

Released março de 2025

Gemma 3 12B Instruct Benchmarking e análise de provedores de API

Comparação de modelos

Esta análise ajuda você a escolher o melhor provedor de API de Gemma 3 12B Instruct para seu caso de uso.

Mais rápido

#1
AmazonAmazon
104.6 t/s
#2
DeepInfraDeepInfra
38.7 t/s

Velocidade de saída

3 provedores no total

Menor latência

#1
DeepInfraDeepInfra
1.10 s
#2
AmazonAmazon
1.22 s

Tempo até o primeiro token

3 provedores no total

Menor preço

#1
Google (AI Studio)Google (AI Studio)
$0.00
#2
DeepInfraDeepInfra
$0.06
#3
AmazonAmazon
$0.11

Preço combinado (por 1M de tokens)

3 provedores no total

Gemma 3 12B está disponível em 3 provedores de API, cada um com características de desempenho e preços diferentes. Veja abaixo uma comparação das principais métricas entre os provedores.

  • Em velocidade de saída, os principais provedores são Amazon (104.6 t/s) e DeepInfra (38.7 t/s).
  • Em latência, DeepInfra (1.10s) e Amazon (1.22s) têm o menor tempo até o primeiro token.
  • Em preço, Google (AI Studio) (0.00), DeepInfra (0.06) e Amazon (0.11) têm os menores preços combinados por 1M de tokens.
Output tokens per second · Higher is better
Seconds to first answer token received · Lower is better
USD per 1M tokens (blended) · Lower is better

Preços

Preços: acertos de cache, entrada e saída

Price (USD per M Tokens) · Lower is better · 10,000 input tokens

Custo por tarefa do Intelligence Index

Weighted average cost (USD) per Artificial Analysis Intelligence Index task, segmented by token type · Lower is better

Velocidade de saída vs. preço

Blended at 7:2:1 (cache-input-output) · Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant
Pareto line

Velocidade

Medida pela velocidade de saída (tokens por segundo)

Velocidade de saída: Gemma 3 12B Instruct

Velocidade de saída: tokens de saída por segundo · 10,000 input tokens

Tempo por tarefa do Índice de Inteligência

Weighted average decode time (minutes) per task; excludes TTFT and overhead time · Lower is better

Custo por tarefa vs. tempo por tarefa

Weighted average cost (USD) per Intelligence Index task · Weighted average decode time (minutes) per Intelligence Index task
Most attractive quadrant
Pareto line

Latência

Medida pelo tempo (segundos) até o primeiro token

Tempo até o primeiro token

Seconds to first token received · Lower is better · 10,000 input tokens

Tempo de resposta de ponta a ponta

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

Tempo de resposta de ponta a ponta

Seconds to output 500 tokens, including reasoning model 'thinking' time · Lower is better · 10,000 input tokens

Principais métricas de comparação e recursos da API

Logo: DeepInfraDeepInfra
131k
Aberto
$0.13
55
1.05
10.15
--
Logo: Amazon BedrockAmazon Bedrock
128k
Aberto
$0.24
97
1.32
6.49
--
Logo: GoogleGoogle
128k
Aberto
$0.00
--
--
--
--

Perguntas frequentes

Perguntas comuns sobre os provedores do Gemma 3 12B Instruct