••

Open weights model

•

Released agosto de 2025

gpt-oss-120b (high) Benchmarks y análisis de proveedores de API

Comparación de modelos

Este análisis está pensado para ayudarte a elegir el mejor proveedor de API de gpt-oss-120b (high) para tu caso de uso.

Más rápido

#1
CerebrasCerebras
1,654.6 t/s
#2
SambaNovaSambaNova
702.8 t/s
#3
GroqGroq
473.4 t/s
#4
AzureAzure
311.9 t/s
#5
DeepInfra (Turbo)DeepInfra (Turbo)
255.7 t/s

Velocidad de salida

18 proveedores en total

Menor latencia

#1
CerebrasCerebras
1.68 s
#2
SambaNovaSambaNova
3.99 s
#3
GroqGroq
4.90 s
#4
AzureAzure
7.31 s
#5
DeepInfra (Turbo)DeepInfra (Turbo)
8.51 s

Tiempo hasta el primer token de respuesta

18 proveedores en total

Menor precio

#1
CoreWeaveCoreWeave
$0.04
#2
DeepInfraDeepInfra
$0.05
#3
CrusoeCrusoe
$0.07
#4
NovitaNovita
$0.07
#5
Google VertexGoogle Vertex
$0.12

Precio combinado (por 1M de tokens)

18 proveedores en total

gpt-oss-120b (high) está disponible a través de 18 proveedores de API, cada uno con distintas características de rendimiento y precios. A continuación se comparan las métricas clave entre proveedores.

  • En velocidad de salida, los principales proveedores son Cerebras (1,654.6 t/s), SambaNova (702.8 t/s) y Groq (473.4 t/s). La velocidad varía significativamente entre proveedores, con una diferencia del 3951% entre el más rápido y el más lento.
  • En latencia, Cerebras (1.68s), SambaNova (3.99s) y Groq (4.90s) ofrecen el menor tiempo hasta el primer token de respuesta.
  • En precios, CoreWeave (0.04), DeepInfra (0.05) y Crusoe (0.07) ofrecen los menores precios combinados por 1M de tokens. Los precios varían hasta 8.9x entre proveedores.
  • Cerebras ofrece el mejor rendimiento, con la mayor velocidad y la menor latencia. Para optimizar costos, CoreWeave ofrece los precios más competitivos.

Aspectos destacados

Output tokens per second · Higher is better
Seconds to first answer token received · Lower is better
USD per 1M tokens (blended) · Lower is better

Actualización: La carga de trabajo predeterminada de medición de rendimiento se actualizó a 10k tokens de entrada para reflejar mejor los casos de uso en producción. Aún puedes seleccionar distintas cargas de trabajo arriba.

Precisión del endpoint

Endpoint Accuracy Index: gpt-oss-120b (high)

v1.0 · Composite of BFCL v4-500, HLE-250 and AA-LCR-25 run against each provider endpoint · Percentage of the reference endpoint, with 95% confidence interval · Higher is better

Precios

Pricing: Cache Hit, Input, and Output

Price (USD per M Tokens) · Lower is better · 10,000 input tokens

Pricing: Blended Price

Blended at 7:2:1 (cache-input-output) · USD per 1M tokens (blended) · Lower is better

Pricing: Cache Discount

1 - (cache hit price / input price) · Higher is better

Output Speed vs. Price

Blended at 7:2:1 (cache-input-output) · Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant
Pareto line

Velocidad

Medida por la velocidad de salida (tokens por segundo)

Output Speed: gpt-oss-120b (high)

Output speed: output tokens per second · 10,000 input tokens

Latency vs. Output Speed

Latency: seconds to first token received · Output speed: output tokens per second · 10,000 input tokens
Most attractive quadrant
Pareto line

Latencia

Medida por el tiempo (segundos) hasta el primer token

Tiempo hasta el primer token de respuesta

Seconds to first token received · Lower is better · 10,000 input tokens

Tiempo de respuesta de extremo a extremo

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

Tiempo de respuesta de extremo a extremo

Seconds to output 500 tokens, including reasoning model 'thinking' time · Lower is better · 10,000 input tokens

Métricas clave de comparación y funciones de API

Logo de GroqGroq
86%
131k
Abierto
$0.08
473
0.75
6.03
4.22
Logo de CloudflareCloudflare
70%
116k
Abierto
$0.23
--
--
--
--
Logo de ScalewayScaleway
97%
128k
Abierto
$0.12
132
1.25
20.18
15.14
Logo de CoreWeaveCoreWeave
98%
131k
Abierto
$0.02
48
1.42
53.36
41.55
Logo de Microsoft AzureMicrosoft Azure
93%
131k
Abierto
$0.11
319
0.90
8.73
6.27
Logo de NovitaNovita
91%
131k
Abierto
$0.04
43
1.15
59.23
46.47
Logo de DeepInfraDeepInfra
84%
131k
Abierto
$0.11
233
0.69
11.42
8.59
Logo de DeepInfraDeepInfra
97%
131k
Abierto
$0.03
36
0.88
71.25
56.30
Logo de CerebrasCerebras
87%
131k
Abierto
$0.23
1,690
0.50
1.98
1.18
Logo de GoogleGoogle
72%
131k
Abierto
$0.06
174
1.05
15.42
11.50
Logo de CrusoeCrusoe
n/d
131k
Abierto
$0.04
244
0.36
10.61
8.20
Logo de BasetenBaseten
n/d
128k
Abierto
$0.07
197
0.25
12.92
10.14
Logo de SambaNovaSambaNova
98%
131k
Abierto
$0.15
707
1.10
4.63
2.83
Logo de ParasailParasail
98%
131k
Abierto
$0.06
119
0.80
21.88
16.87
Logo de NebiusNebius
97%
128k
Abierto
$0.11
266
1.07
10.48
7.53
Logo de HyperbolicHyperbolic
n/d
131k
Abierto
$0.19
--
--
--
--
Logo de Amazon BedrockAmazon Bedrock
101%
131k
Abierto
$0.11
92
1.06
28.17
21.68
Logo de Together AITogether AI
77%
131k
Abierto
$0.11
91
0.52
27.95
21.94

Preguntas frecuentes

Preguntas comunes sobre los proveedores de gpt-oss-120b (high)