Groq: inteligencia, rendimiento y precio de sus modelos
Este análisis está pensado para ayudarte a elegir el mejor modelo ofrecido por Groq para tu caso de uso.
Más inteligente
Updated
gpt-oss-120b (high)gpt-oss-120b (low)gpt-oss-20b (low)gpt-oss-20b (high)
Llama 3.3 70BÍndice de inteligencia
6 modelos en total
Más rápido
gpt-oss-20b (high)gpt-oss-20b (low)Llama 3.1 8Bgpt-oss-120b (low)gpt-oss-120b (high)Velocidad de salida
6 modelos en total
Menor precio
Llama 3.1 8Bgpt-oss-20b (low)gpt-oss-20b (high)gpt-oss-120b (high)gpt-oss-120b (low)Precio combinado (por 1M de tokens)
6 modelos en total
Groq ofrece 6 modelos, cada uno con distintas características de inteligencia, rendimiento y precio. A continuación se comparan las métricas clave entre modelos.
- En inteligencia, los mejores modelos en Groq son gpt-oss-120b (high) (12), gpt-oss-120b (low) (10) y gpt-oss-20b (low) (10).
- En velocidad de salida, los modelos más rápidos son gpt-oss-20b (high) (962 t/s), gpt-oss-20b (low) (948 t/s) y Llama 3.1 8B (618 t/s). La velocidad varía significativamente entre modelos, con una diferencia del 102% entre el más rápido y el más lento.
- En latencia, Llama 3.3 70B (0.87s), Llama 3.1 8B (0.87s) y gpt-oss-20b (high) (2.87s) ofrecen el menor tiempo hasta el primer token de respuesta.
- En precios, Llama 3.1 8B ($0.05), gpt-oss-20b (low) ($0.10) y gpt-oss-20b (high) ($0.10) ofrecen los menores precios combinados por 1M de tokens. Los precios varían hasta 3.7x entre modelos.
- En tamaño de ventana de contexto, gpt-oss-120b (high) (131k), gpt-oss-120b (low) (131k) y gpt-oss-20b (low) (131k) admiten las ventanas de contexto más grandes en Groq.
Aspectos destacados
Evaluaciones de inteligencia
Artificial Analysis Intelligence Index
Intelligence Evaluations
Agentic knowledge work, (Elo-500)/2000
Agentic real-world work tasks, (Elo-500)/2000
Agentic SaaS workflows
Agentic coding & terminal use
Coding
Reasoning & knowledge
Professional document reasoning, All-pass
Physics reasoning
Knowledge
1 - hallucination rate
Long context reasoning
Legal agentic work, criterion pass rate
Agentic business operations
Agentic scientific research workflows in a terminal
Quantitative analysis on spreadsheets & documents
Agentic tool use
Kubernetes incident root-cause analysis
Visual reasoning
Medical long context reasoning
Intelligence Index vs. Price
Ventana de contexto
Context Window
Precios
Intelligence Index vs. Price
Resumen de rendimiento
Output Speed vs. Price
Velocidad
Medida por la velocidad de salida (tokens por segundo)
Output Speed
Latencia
Medida por el tiempo (segundos) hasta el primer token
Latency: Time To First Answer Token
Tiempo de respuesta de extremo a extremo
Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed
End-to-End Response Time vs. Price
Análisis adicional | |||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|
gpt-oss-120b (high) | 131k | Abierto | 12 | -- | 477 | 0.70 | 5.95 | 4.20 | |||
gpt-oss-120b (low) | 131k | Abierto | 10* | -- | 477 | 0.69 | 5.92 | 4.19 | |||
gpt-oss-20b (low) | 131k | Abierto | 10* | -- | 948 | 0.81 | 3.45 | 2.11 | |||
gpt-oss-20b (high) | 131k | Abierto | 9 | $0.02 | 962 | 0.77 | 3.37 | 2.08 | |||
Llama 3.3 70B | 131k | Abierto | 8* | -- | 302 | 0.87 | 2.53 | -- | |||
Llama 3.1 8B | 131k | Abierto | 7* | -- | 598 | 0.87 | 1.71 | -- | |||
Definiciones clave
Preguntas frecuentes
Preguntas comunes sobre Groq
Groq ofrece 6 modelos que monitoreamos: gpt-oss-120b (high), gpt-oss-120b (low), gpt-oss-20b (low), gpt-oss-20b (high), Llama 3.3 70B y Llama 3.1 8B.
El modelo más inteligente disponible en Groq es gpt-oss-120b (high), con una puntuación de 12 en el Índice de Inteligencia.
El modelo más rápido en Groq por velocidad de salida es gpt-oss-20b (high), con 961.8 tokens por segundo.
El modelo con el menor tiempo hasta el primer token de respuesta en Groq es Llama 3.3 70B, con 0.87s. Una menor latencia significa una respuesta inicial más rápida.
El modelo más económico en Groq por precio combinado es Llama 3.1 8B, a $0.05 por 1M de tokens (proporción 7:2:1 de aciertos de caché/entrada/salida).
Los precios en Groq varían hasta 12x entre modelos, desde $0.05 por 1M de tokens para Llama 3.1 8B hasta $0.61 por 1M de tokens para Llama 3.3 70B.
Sí, Groq ofrece una API compatible con OpenAI, lo que facilita cambiar desde OpenAI o usar integraciones existentes del SDK de OpenAI.
Sí, los 6 modelos en Groq admiten el modo JSON para salida estructurada.
Sí, los 6 modelos en Groq admiten llamadas a funciones (uso de herramientas).
Sí, Groq ofrece 4 modelos de razonamiento: gpt-oss-120b (high), gpt-oss-120b (low), gpt-oss-20b (low) y gpt-oss-20b (high). Los modelos de razonamiento usan pensamiento extendido para resolver problemas complejos antes de responder.
Sí, los 6 modelos en Groq son modelos de pesos abiertos.
Sí, el rendimiento de un proveedor puede variar con el tiempo debido a cambios de infraestructura, balanceo de carga y actualizaciones. Medimos continuamente a todos los proveedores y mostramos las tendencias históricas de rendimiento en los gráficos "a lo largo del tiempo".
Al elegir un modelo en Groq, considera: inteligencia (para tareas sensibles a la calidad), velocidad de salida (para tareas intensivas en rendimiento), latencia (para aplicaciones interactivas que requieren primeras respuestas rápidas), precios (para cargas de trabajo sensibles al costo) y funcionalidades como el tamaño de la ventana de contexto, el modo JSON o las llamadas a funciones.