Groq: inteligencia, rendimiento y precio de sus modelos
Este análisis está pensado para ayudarte a elegir el mejor modelo ofrecido por Groq para tu caso de uso.
Más inteligente
Intelligence Index
6 modelos en total
Menor tiempo por tarea
Tiempo por tarea del Intelligence Index (minutos)
6 modelos en total
Menor precio
Llama 3.1 8B
gpt-oss-20b (low)gpt-oss-20b (high)gpt-oss-120b (high)gpt-oss-120b (low)Precio combinado (por 1M de tokens)
6 modelos en total
Groq ofrece 6 modelos, cada uno con distintas características de inteligencia, rendimiento y precio. A continuación se comparan las métricas clave entre modelos.
- En latencia, gpt-oss-120b (low) (1.29s), gpt-oss-20b (low) (1.31s) y Llama 3.3 70B (1.38s) ofrecen el menor tiempo hasta el primer token de respuesta.
- En precios, Llama 3.1 8B ($0.05), gpt-oss-20b (low) ($0.10) y gpt-oss-20b (high) ($0.10) ofrecen los menores precios combinados por 1M de tokens. Los precios varían hasta 3.7x entre modelos.
- En tamaño de ventana de contexto, gpt-oss-20b (low) (131k), gpt-oss-20b (high) (131k) y Llama 3.1 8B (131k) admiten las ventanas de contexto más grandes en Groq.
Inteligencia
Artificial Analysis Intelligence Index
Evaluations
Agentic knowledge work, Elo
Knowledge
1 - hallucination rate
Agentic SaaS workflows
Agentic scientific research workflows in a terminal
Agentic software engineering in open-source repositories
Reasoning & knowledge
Professional document reasoning, All-pass
Agentic coding & terminal use
Physics reasoning
Quantitative analysis on spreadsheets & documents
Legal agentic work, Hallucination-Gated All-Pass Rate
Agentic business operations
Agentic real-world work tasks, Elo
Agentic interactive 3D experiences, Elo
Product and brand videos designed in code, Elo
Kubernetes incident root-cause analysis
Medical long context reasoning
Visual reasoning
Rich, varied, well-crafted language
Well-structured, scannable, answer-first
Truthful, acknowledges uncertainty, non-sycophantic
Use of filler and generic language
Intelligence Index vs. precio
Precios
Costo por tarea del Intelligence Index
Intelligence Index vs. precio
Velocidad
Promedio de las cargas medidas de solicitud única y agénticas multiturno
Velocidad de salida
Calidad
Endpoint Accuracy Index
Latencia
Promedio de las cargas medidas de solicitud única y agénticas multiturno
Tiempo hasta el primer token de respuesta
Fiabilidad
Proporción de solicitudes que el endpoint no completó, en todas las cargas medidas de solicitud única y agénticas multiturno
Tasa de errores del endpoint
Caché
Tasa de aciertos de caché
Costo por tarea vs. Tasa de aciertos de caché
Análisis adicional | ||||||||||
|---|---|---|---|---|---|---|---|---|---|---|
gpt-oss-20b (low) | -- | -- | -- | 1.31 | 2.1% | 131k | Abierto | |||
gpt-oss-20b (high) | -- | -- | -- | 6.36 | 6.1% | 131k | Abierto | |||
Llama 3.1 8B | -- | -- | -- | 2.43 | 0.0% | 131k | Abierto | |||
Llama 3.3 70B | -- | -- | -- | 1.38 | 0.0% | 131k | Abierto | |||
gpt-oss-120b (low) | -- | -- | -- | 1.29 | 2.3% | 131k | Abierto | |||
gpt-oss-120b (high) | -- | -- | -- | 4.42 | 6.1% | 131k | Abierto | |||
Definiciones clave
Preguntas frecuentes
Preguntas comunes sobre Groq
Groq ofrece 6 modelos que monitoreamos: gpt-oss-20b (low), gpt-oss-20b (high), Llama 3.1 8B, Llama 3.3 70B, gpt-oss-120b (low) y gpt-oss-120b (high).
El modelo con el menor tiempo hasta el primer token de respuesta en Groq es gpt-oss-120b (low), con 1.29s. Una menor latencia significa una respuesta inicial más rápida.
El modelo más económico en Groq por precio combinado es Llama 3.1 8B, a $0.053 por 1M de tokens (proporción 7:2:1 de aciertos de caché/entrada/salida).
Los precios en Groq varían hasta 12x entre modelos, desde $0.053 por 1M de tokens para Llama 3.1 8B hasta $0.61 por 1M de tokens para Llama 3.3 70B.
Sí, Groq ofrece una API compatible con OpenAI, lo que facilita cambiar desde OpenAI o usar integraciones existentes del SDK de OpenAI.
Sí, los 6 modelos en Groq admiten el modo JSON para salida estructurada.
Sí, los 6 modelos en Groq admiten llamadas a funciones (uso de herramientas).
Sí, Groq ofrece 4 modelos de razonamiento: gpt-oss-20b (low), gpt-oss-20b (high), gpt-oss-120b (low) y gpt-oss-120b (high). Los modelos de razonamiento usan pensamiento extendido para resolver problemas complejos antes de responder.
Sí, los 6 modelos en Groq son modelos de pesos abiertos.
Sí, el rendimiento de un proveedor puede variar con el tiempo debido a cambios de infraestructura, balanceo de carga y actualizaciones. Medimos continuamente a todos los proveedores y mostramos las tendencias históricas de rendimiento en los gráficos "a lo largo del tiempo".
Al elegir un modelo en Groq, considera: inteligencia (para tareas sensibles a la calidad), tiempo por tarea (la rapidez con la que el modelo completa una tarea del Intelligence Index), latencia (para aplicaciones interactivas que requieren primeras respuestas rápidas), precios (para cargas de trabajo sensibles al costo) y funcionalidades como el tamaño de la ventana de contexto, el modo JSON o las llamadas a funciones.