This model is deprecated. We only continue performance benchmarking for the default 10k input token workload. Results for other workloads are historical and no longer updated.

Google has launched a newer release, Gemma 4 26B A4B. We suggest considering it instead.

•

Open weights model

•

Released marzo de 2025

Gemma 3 12B Instruct Benchmarks y análisis de proveedores de API

Comparación de modelos

Este análisis está pensado para ayudarte a elegir el mejor proveedor de API de Gemma 3 12B Instruct para tu caso de uso.

Más rápido

#1
AmazonAmazon
91.9 t/s
#2
DeepInfraDeepInfra
45.8 t/s

Velocidad de salida

3 proveedores en total

Menor latencia

#1
DeepInfraDeepInfra
1.08 s
#2
AmazonAmazon
1.31 s

Tiempo hasta el primer token

3 proveedores en total

Menor precio

#1
Google (AI Studio)Google (AI Studio)
$0.00
#2
DeepInfraDeepInfra
$0.06
#3
AmazonAmazon
$0.11

Precio combinado (por 1M de tokens)

3 proveedores en total

Gemma 3 12B está disponible a través de 3 proveedores de API, cada uno con distintas características de rendimiento y precios. A continuación se comparan las métricas clave entre proveedores.

  • En velocidad de salida, los principales proveedores son Amazon (91.9 t/s) y DeepInfra (45.8 t/s).
  • En latencia, DeepInfra (1.08s) y Amazon (1.31s) ofrecen el menor tiempo hasta el primer token.
  • En precios, Google (AI Studio) (0.00), DeepInfra (0.06) y Amazon (0.11) ofrecen los menores precios combinados por 1M de tokens.

Aspectos destacados

Output tokens per second · Higher is better
Seconds to first answer token received · Lower is better
USD per 1M tokens (blended) · Lower is better

Precios

Pricing: Cache Hit, Input, and Output

Price (USD per M Tokens) · Lower is better · 10,000 input tokens

Pricing: Blended Price

Blended at 7:2:1 (cache-input-output) · USD per 1M tokens (blended) · Lower is better

Output Speed vs. Price

Blended at 7:2:1 (cache-input-output) · Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant
Pareto line

Velocidad

Medida por la velocidad de salida (tokens por segundo)

Output Speed: Gemma 3 12B Instruct

Output speed: output tokens per second · 10,000 input tokens

Latency vs. Output Speed

Latency: seconds to first token received · Output speed: output tokens per second · 10,000 input tokens
Most attractive quadrant
Pareto line

Latencia

Medida por el tiempo (segundos) hasta el primer token

Tiempo hasta el primer token

Seconds to first token received · Lower is better · 10,000 input tokens

Tiempo de respuesta de extremo a extremo

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

Tiempo de respuesta de extremo a extremo

Seconds to output 500 tokens, including reasoning model 'thinking' time · Lower is better · 10,000 input tokens

Métricas clave de comparación y funciones de API

Logo de DeepInfraDeepInfra
131k
Abierto
$0.13
47
1.04
11.79
--
Logo de Amazon BedrockAmazon Bedrock
128k
Abierto
$0.24
92
1.31
6.75
--
Logo de GoogleGoogle
128k
Abierto
$0.00
--
--
--
--

Preguntas frecuentes

Preguntas comunes sobre los proveedores de Gemma 3 12B Instruct