gpt-oss-20b (high) Benchmarks y análisis de proveedores de API
Este análisis está pensado para ayudarte a elegir el mejor proveedor de API de gpt-oss-20b (high) para tu caso de uso.
Más rápido
Groq
Google Vertex
CoreWeave
Novita
DeepInfraVelocidad de salida
8 proveedores en total
Menor latencia
GroqGoogle VertexCoreWeaveNovitaDeepInfraTiempo hasta el primer token de respuesta
8 proveedores en total
Menor precio
CoreWeaveDeepInfraNovitaGoogle Vertex
AmazonPrecio combinado (por 1M de tokens)
8 proveedores en total
gpt-oss-20b (high) está disponible a través de 8 proveedores de API, cada uno con distintas características de rendimiento y precios. A continuación se comparan las métricas clave entre proveedores.
- En velocidad de salida, los principales proveedores son Groq (966.1 t/s), Google Vertex (412.7 t/s) y CoreWeave (183.2 t/s). La velocidad varía significativamente entre proveedores, con una diferencia del 964% entre el más rápido y el más lento.
- En latencia, Groq (2.86s), Google Vertex (5.20s) y CoreWeave (11.53s) ofrecen el menor tiempo hasta el primer token de respuesta.
- En precios, CoreWeave (0.04), DeepInfra (0.04) y Novita (0.05) ofrecen los menores precios combinados por 1M de tokens. Los precios varían hasta 5.3x entre proveedores.
- Groq ofrece el mejor rendimiento, con la mayor velocidad y la menor latencia. Para optimizar costos, CoreWeave ofrece los precios más competitivos.
Aspectos destacados
Actualización: La carga de trabajo predeterminada de medición de rendimiento se actualizó a 10k tokens de entrada para reflejar mejor los casos de uso en producción. Aún puedes seleccionar distintas cargas de trabajo arriba.
Precios
Pricing: Cache Hit, Input, and Output
Pricing: Blended Price
Output Speed vs. Price
Velocidad
Medida por la velocidad de salida (tokens por segundo)
Output Speed: gpt-oss-20b (high)
Latency vs. Output Speed
Latencia
Medida por el tiempo (segundos) hasta el primer token
Tiempo hasta el primer token de respuesta
Tiempo de respuesta de extremo a extremo
Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed
Tiempo de respuesta de extremo a extremo
Métricas clave de comparación y funciones de API
| CoreWeave | 131k | Abierto | $0.01 | 183 | 0.62 | 14.26 | 10.91 | ||
| Amazon Bedrock | 131k | Abierto | $0.01 | 93 | 46.72 | 73.48 | 21.41 | ||
| DeepInfra | 131k | Abierto | $0.01 | 101 | 0.49 | 25.23 | 19.79 | ||
 Hyperbolic | 131k | Abierto | $0.01 | -- | -- | -- | -- | ||
 Cloudflare | 128k | Abierto | $0.03 | -- | -- | -- | -- | ||
| Novita | 131k | Abierto | $0.01 | 142 | 1.23 | 18.89 | 14.13 | ||
| Google | 131k | Abierto | $0.01 | 412 | 0.36 | 6.44 | 4.86 | ||
| Groq | 131k | Abierto | $0.02 | 965 | 0.80 | 3.39 | 2.07 | ||
Preguntas frecuentes
Preguntas comunes sobre los proveedores de gpt-oss-20b (high)
gpt-oss-20b (high) está disponible a través de 8 proveedores de API: CoreWeave, Amazon, DeepInfra, Hyperbolic, Cloudflare, Novita, Google Vertex y Groq. Cada proveedor ofrece distintas características de rendimiento y precios.
gpt-oss-20b (high) está disponible actualmente a través de 8 proveedores de API que medimos y monitoreamos.
Los proveedores más rápidos para gpt-oss-20b (high) por velocidad de salida son Groq (966.1 t/s), Google Vertex (412.7 t/s) y CoreWeave (183.2 t/s). La velocidad de salida mide qué tan rápido se generan tokens después de que el modelo comienza a responder.
Los proveedores con el menor tiempo hasta el primer token de respuesta para gpt-oss-20b (high) son Groq (2.86s), Google Vertex (5.20s) y CoreWeave (11.53s). Una menor latencia significa una respuesta inicial más rápida.
Los proveedores con el menor precio de tokens de salida para gpt-oss-20b (high) son Hyperbolic ($0.10 por 1M de tokens de salida), CoreWeave ($0.13 por 1M de tokens de salida) y DeepInfra ($0.14 por 1M de tokens de salida).
Los precios de gpt-oss-20b (high) varían hasta 5.3x entre proveedores. El más económico es CoreWeave a $0.04 por 1M de tokens, mientras que Cloudflare cobra $0.21 por 1M de tokens.
Los 8 proveedores de gpt-oss-20b (high) admiten el modo JSON para salida estructurada.
6 de 8 proveedores admiten llamadas a funciones para gpt-oss-20b (high): CoreWeave, Amazon, DeepInfra, Cloudflare, Google Vertex y Groq.
Al elegir un proveedor para gpt-oss-20b (high), considera: velocidad de salida (para tareas intensivas en rendimiento), latencia (para aplicaciones interactivas que requieren primeras respuestas rápidas), precios (para cargas de trabajo sensibles al costo) y funciones de API como el modo JSON o las llamadas a funciones.
Sí, el rendimiento de un proveedor puede variar con el tiempo debido a cambios de infraestructura, balanceo de carga y actualizaciones. Medimos continuamente a todos los proveedores y mostramos las tendencias históricas de rendimiento en los gráficos "a lo largo del tiempo".
Para información sobre la inteligencia, las capacidades, las modalidades de gpt-oss-20b (high) y cómo se compara con otros modelos, consulta la página de resumen del modelo. Ver resumen del modelo