gpt-oss-120b: inteligencia, rendimiento y precio del lanzamiento
Resumen del modelo
InteligenciaUpdated
Verbosidad
El lanzamiento gpt-oss-120b ofrece 2 modelos, cada uno con distintas características de inteligencia, rendimiento y precio. A continuación se comparan las métricas clave de los 2 modelos.
- En inteligencia, el modelo líder de gpt-oss-120b es gpt-oss-120b (High), con 12.
- En velocidad de salida, el modelo más rápido es gpt-oss-120b (Low), con 218 tokens/s.
- En latencia, gpt-oss-120b (Low), con 9,95 s ofrece el menor tiempo hasta el primer token de respuesta.
- En precio, gpt-oss-120b (High), con $0.11 ofrece el menor costo por tarea.
| Razonamiento | Sí Esta página muestra la versión con razonamiento de este modelo. También puede existir una variante sin razonamiento. |
|---|---|
| Modalidad de entrada | Admite: texto |
| Modalidad de salida | Admite: texto |
| Fecha límite de conocimiento | 31 may 2024 |
| Ventana de contexto | 131k ~197 páginas A4 con fuente Arial de 12 puntos |
| Parámetros totales | 117B |
| Parámetros activos | 5.1B Número de parámetros activos por token durante la inferencia |
| Licencia | Apache 2.0 |
| Pesos del modelo | Hugging Face |
Las métricas se comparan con modelos de la misma clase:
- Modelos sin razonamiento → se comparan solo con otros modelos sin razonamiento
- Modelos de razonamiento → se comparan tanto con modelos de razonamiento como sin razonamiento
- Modelos de pesos abiertos → se comparan solo con otros modelos de pesos abiertos de la misma categoría de tamaño:
- Muy pequeño: ≤4B parámetros
- Pequeño: 4B–40B parámetros
- Mediano: 40B–150B parámetros
- Grande: >150B parámetros
- Modelos propietarios → se comparan con modelos propietarios y de pesos abiertos del mismo rango de precio mediante una proporción combinada de precios de entrada/salida de 3:1:
- <$0.15 por 1 M de tokens
- $0.15–$1 por 1 M de tokens
- >$1 por 1 M de tokens
Inteligencia
Índice de inteligencia de Artificial Analysis
Índice de Inteligencia vs. costo por tarea del Índice de Inteligencia
Costo
Costo por tarea del Índice de Inteligencia
Velocidad y latencia
Velocidad de salida
Puntuaciones de capacidades
Índices de capacidades
Incorporates 7 evaluations: AA-Omniscience, GDPval-AA v2.1, AA-Briefcase v1.1, Humanity's Last Exam, AutomationBench-AA, AA-LCR v1.1, GDP.pdf · Higher is better
Incorporates 6 evaluations: AA-Omniscience, GDPval-AA v2.1, AA-Briefcase v1.1, AutomationBench-AA, AA-LCR v1.1, GDP.pdf · Higher is better
Incorporates 7 evaluations: AA-Omniscience, GDPval-AA v2.1, AA-Briefcase v1.1, Humanity's Last Exam, AA-LCR v1.1, GDP.pdf, AutomationBench-AA · Higher is better
Incorporates 6 evaluations: AA-Omniscience, GDPval-AA v2.1, AA-Briefcase v1.1, MLCR-AA, Humanity's Last Exam, AutomationBench-AA · Higher is better
Incorporates 6 evaluations: AA-Omniscience, Humanity's Last Exam, CritPt, GDPval-AA v2.1, AA-Briefcase v1.1, Terminal-Bench 4.0 · Higher is better
Incorporates 5 evaluations: AA-Omniscience, Humanity's Last Exam, GDPval-AA v2.1, AA-Briefcase v1.1, AA-LCR v1.1 · Higher is better
Más de OpenAI
Más detalles
Pesos | Benchmarks de proveedores | ||||||||
|---|---|---|---|---|---|---|---|---|---|
| gpt-oss-120b (High) |  OpenAI | 12 | 117B 5,1B activos en inferencia | 131k | 0,2 US$ | 196 |    +14 | ||
| gpt-oss-120b (Low) | OpenAI | 10 | 117B 5,1B activos en inferencia | 131k | 0,2 US$ | 218 |    +14 |