Groq: inteligencia, rendimiento y precio de sus modelos
Este análisis está pensado para ayudarte a elegir el mejor modelo ofrecido por Groq para tu caso de uso.
Más inteligente
gpt-oss-120b (high)gpt-oss-120b (low)gpt-oss-20b (low)gpt-oss-20b (high)
Llama 3.3 70BIntelligence Index
6 modelos en total
Más rápido
gpt-oss-20b (low)gpt-oss-20b (high)Llama 3.1 8Bgpt-oss-120b (high)gpt-oss-120b (low)Velocidad de salida
6 modelos en total
Menor precio
Llama 3.1 8Bgpt-oss-20b (low)gpt-oss-20b (high)gpt-oss-120b (high)gpt-oss-120b (low)Precio combinado (por 1M de tokens)
6 modelos en total
Groq ofrece 6 modelos, cada uno con distintas características de inteligencia, rendimiento y precio. A continuación se comparan las métricas clave entre modelos.
- En inteligencia, los mejores modelos en Groq son gpt-oss-120b (high) (12), gpt-oss-120b (low) (10) y gpt-oss-20b (low) (10).
- En velocidad de salida, los modelos más rápidos son gpt-oss-20b (low) (927 t/s), gpt-oss-20b (high) (916 t/s) y Llama 3.1 8B (662 t/s). La velocidad varía significativamente entre modelos, con una diferencia del 97% entre el más rápido y el más lento.
- En latencia, Llama 3.1 8B (0.98s), Llama 3.3 70B (0.99s) y gpt-oss-20b (low) (2.88s) ofrecen el menor tiempo hasta el primer token de respuesta.
- En precios, Llama 3.1 8B ($0.05), gpt-oss-20b (low) ($0.10) y gpt-oss-20b (high) ($0.10) ofrecen los menores precios combinados por 1M de tokens. Los precios varían hasta 3.7x entre modelos.
- En tamaño de ventana de contexto, gpt-oss-120b (high) (131k), gpt-oss-120b (low) (131k) y gpt-oss-20b (low) (131k) admiten las ventanas de contexto más grandes en Groq.
Evaluaciones de inteligencia
Artificial Analysis Intelligence Index
Evaluations
Agentic knowledge work, (Elo-500)/2000
Knowledge
1 - hallucination rate
Agentic SaaS workflows
Agentic real-world work tasks, (Elo-500)/2000
Reasoning & knowledge
Professional document reasoning, All-pass
Agentic coding & terminal use
Long context reasoning
Coding
Physics reasoning
Agentic scientific research workflows in a terminal
Agentic software engineering in open-source repositories
Quantitative analysis on spreadsheets & documents
Legal agentic work, Hallucination-Gated All-Pass Rate
Agentic business operations
Kubernetes incident root-cause analysis
Medical long context reasoning
Visual reasoning
Intelligence Index vs. precio
Ventana de contexto
Ventana de contexto
Precios
Intelligence Index vs. precio
Resumen de rendimiento
Velocidad de salida vs. precio
Velocidad
Medida por la velocidad de salida (tokens por segundo)
Velocidad de salida
Latencia
Medida por el tiempo (segundos) hasta el primer token
Latencia: Tiempo hasta el primer token de respuesta
Tiempo de respuesta de extremo a extremo
Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed
Tiempo de respuesta de extremo a extremo vs. precio
Análisis adicional | |||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|
gpt-oss-120b (high) | 131k | Abierto | 12 | -- | 474 | 0.70 | 5.98 | 4.22 | |||
gpt-oss-120b (low) | 131k | Abierto | 10* | -- | 473 | 0.70 | 5.99 | 4.23 | |||
gpt-oss-20b (low) | 131k | Abierto | 10* | -- | 941 | 0.73 | 3.39 | 2.12 | |||
gpt-oss-20b (high) | 131k | Abierto | 9 | $0.02 | 962 | 0.77 | 3.37 | 2.08 | |||
Llama 3.3 70B | 131k | Abierto | 8* | -- | 306 | 1.00 | 2.63 | -- | |||
Llama 3.1 8B | 131k | Abierto | 7* | -- | 630 | 0.96 | 1.76 | -- | |||
Definiciones clave
Preguntas frecuentes
Preguntas comunes sobre Groq
Groq ofrece 6 modelos que monitoreamos: gpt-oss-120b (high), gpt-oss-120b (low), gpt-oss-20b (low), gpt-oss-20b (high), Llama 3.3 70B y Llama 3.1 8B.
El modelo más inteligente disponible en Groq es gpt-oss-120b (high), con una puntuación de 12 en el Intelligence Index.
El modelo más rápido en Groq por velocidad de salida es gpt-oss-20b (low), con 927.4 tokens por segundo.
El modelo con el menor tiempo hasta el primer token de respuesta en Groq es Llama 3.1 8B, con 0.98s. Una menor latencia significa una respuesta inicial más rápida.
El modelo más económico en Groq por precio combinado es Llama 3.1 8B, a $0.05 por 1M de tokens (proporción 7:2:1 de aciertos de caché/entrada/salida).
Los precios en Groq varían hasta 12x entre modelos, desde $0.05 por 1M de tokens para Llama 3.1 8B hasta $0.61 por 1M de tokens para Llama 3.3 70B.
Sí, Groq ofrece una API compatible con OpenAI, lo que facilita cambiar desde OpenAI o usar integraciones existentes del SDK de OpenAI.
Sí, los 6 modelos en Groq admiten el modo JSON para salida estructurada.
Sí, los 6 modelos en Groq admiten llamadas a funciones (uso de herramientas).
Sí, Groq ofrece 4 modelos de razonamiento: gpt-oss-120b (high), gpt-oss-120b (low), gpt-oss-20b (low) y gpt-oss-20b (high). Los modelos de razonamiento usan pensamiento extendido para resolver problemas complejos antes de responder.
Sí, los 6 modelos en Groq son modelos de pesos abiertos.
Sí, el rendimiento de un proveedor puede variar con el tiempo debido a cambios de infraestructura, balanceo de carga y actualizaciones. Medimos continuamente a todos los proveedores y mostramos las tendencias históricas de rendimiento en los gráficos "a lo largo del tiempo".
Al elegir un modelo en Groq, considera: inteligencia (para tareas sensibles a la calidad), velocidad de salida (para tareas intensivas en rendimiento), latencia (para aplicaciones interactivas que requieren primeras respuestas rápidas), precios (para cargas de trabajo sensibles al costo) y funcionalidades como el tamaño de la ventana de contexto, el modo JSON o las llamadas a funciones.