Análisis de inteligencia, rendimiento y precio de Llama 3.3 Instruct 70B
Resumen del modelo
Verbosidad
Llama 3.3 Instruct 70B está por encima del promedio en inteligencia, pero tiene un precio especialmente elevado en comparación con otros modelos sin razonamiento, de pesos abiertos y tamaño similar. El modelo admite entrada de texto, genera texto y tiene una ventana de contexto de 128k tokens con conocimientos hasta diciembre de 2023.
Llama 3.3 Instruct 70B obtiene 8 puntos en el Artificial Analysis Intelligence Index, lo que lo sitúa por encima del promedio entre modelos comparables (con una mediana de 7).
El precio de Llama 3.3 Instruct 70B es de $0.71 por 1 M de tokens de entrada (elevado; mediana: $0.45) y $0.72 por 1 M de tokens de salida (moderado; mediana: $0.72).
Con 93 tokens por segundo, Llama 3.3 Instruct 70B es más rápido que el promedio (70).
| Razonamiento | No Esta página muestra la versión sin razonamiento de este modelo. También puede existir una variante con razonamiento. |
|---|---|
| Modalidad de entrada | Admite: texto |
| Modalidad de salida | Admite: texto |
| Fecha límite de conocimiento | 1 dic 2023 |
| Ventana de contexto | 128k ~192 páginas A4 con fuente Arial de 12 puntos |
| Parámetros totales | 70B |
| Licencia | LLAMA 3.3 COMMUNITY LICENSE AGREEMENT |
| Pesos del modelo | Hugging Face |
Las métricas se comparan con modelos de la misma clase:
- Modelos sin razonamiento → se comparan solo con otros modelos sin razonamiento
- Modelos de razonamiento → se comparan tanto con modelos de razonamiento como sin razonamiento
- Modelos de pesos abiertos → se comparan solo con otros modelos de pesos abiertos de la misma categoría de tamaño:
- Muy pequeño: ≤4B parámetros
- Pequeño: 4B–40B parámetros
- Mediano: 40B–150B parámetros
- Grande: >150B parámetros
- Modelos propietarios → se comparan con modelos propietarios y de pesos abiertos del mismo rango de precio mediante una proporción combinada de precios de entrada/salida de 3:1:
- <$0.15 por 1 M de tokens
- $0.15–$1 por 1 M de tokens
- >$1 por 1 M de tokens
Inteligencia
Artificial Analysis Intelligence Index
Artificial Analysis Intelligence Index: pesos abiertos vs. propietarios
Intelligence Index vs. costo por tarea
Evaluations
Agentic knowledge work, (Elo-500)/2000
Knowledge
1 - hallucination rate
Agentic SaaS workflows
Agentic real-world work tasks, (Elo-500)/2000
Reasoning & knowledge
Professional document reasoning, All-pass
Agentic coding & terminal use
Long context reasoning
Coding
Physics reasoning
Agentic scientific research workflows in a terminal
Agentic software engineering in open-source repositories
Quantitative analysis on spreadsheets & documents
Legal agentic work, Hallucination-Gated All-Pass Rate
Agentic business operations
Kubernetes incident root-cause analysis
Medical long context reasoning
Visual reasoning
AA-Omniscience
AA-Omniscience Index
Openness Index
Artificial Analysis Openness Index: puntuación
Comparaciones del Intelligence Index
Intelligence Index vs. costo por tarea
Costo
Costo por tarea del Intelligence Index
Costo de ejecutar el Artificial Analysis Intelligence Index
Precios: aciertos de caché, entrada y salida
Ventana de contexto
Ventana de contexto
Velocidad
Medida por la velocidad de salida (tokens por segundo)
Velocidad de salida
Tiempo por tarea del Intelligence Index
Latencia
Medida por el tiempo (segundos) hasta el primer token
Latencia: Tiempo hasta el primer token de respuesta
Tiempo de respuesta de extremo a extremo
Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed
Tiempo de respuesta de extremo a extremo
Tamaño del modelo (solo modelos de pesos abiertos)
Tamaño del modelo: parámetros totales y activos
Preguntas frecuentes
Preguntas comunes sobre Llama 3.3 Instruct 70B
Llama 3.3 Instruct 70B se lanzó el 6 de diciembre de 2024.
Llama 3.3 Instruct 70B fue creado por Meta.
Llama 3.3 Instruct 70B obtiene 8 puntos (estimados) en el Artificial Analysis Intelligence Index, lo que lo sitúa por encima del promedio entre otros modelos sin razonamiento, de pesos abiertos y tamaño similar (mediana: 7).
Llama 3.3 Instruct 70B genera 93.1 tokens de salida por segundo (según la mediana de los proveedores que sirven el modelo), un valor por encima del promedio frente a otros modelos sin razonamiento, de pesos abiertos y tamaño similar (mediana: 69.5 t/s).
Llama 3.3 Instruct 70B tiene un tiempo hasta el primer token (TTFT) de 1.74 s (según la mediana de los proveedores que sirven el modelo), un valor mejor que el promedio frente a otros modelos sin razonamiento, de pesos abiertos y tamaño similar (mediana: 1.89 s).
Llama 3.3 Instruct 70B cuesta $0.71 por 1 M de tokens de entrada (en el extremo superior; mediana: $0.45) y $0.72 por 1 M de tokens de salida (mejor que el promedio; mediana: $0.72), según la mediana de los proveedores que sirven el modelo.
Llama 3.3 Instruct 70B cuesta $0.71 por 1 M de tokens de entrada y $0.72 por 1 M de tokens de salida (según la mediana de los proveedores que sirven el modelo). Con una tarifa combinada (proporción 7:2:1 entre aciertos de caché, entrada y salida), equivale a $0.71 por 1 M de tokens. El precio puede variar según el proveedor. Comparar precios de proveedores
No, Llama 3.3 Instruct 70B no es un modelo de razonamiento. Responde directamente sin razonamiento extendido en cadena.
Llama 3.3 Instruct 70B admite entrada de texto.
Llama 3.3 Instruct 70B admite salida de texto.
No, Llama 3.3 Instruct 70B no admite imágenes como entrada. Solo puede procesar texto.
No, Llama 3.3 Instruct 70B no es multimodal. Solo admite entradas de texto.
Llama 3.3 Instruct 70B tiene una ventana de contexto de 130k tokens. Esto determina cuánto texto e historial de conversación puede procesar el modelo en una sola solicitud.
Sí, Llama 3.3 Instruct 70B es un modelo de pesos abiertos. Los pesos del modelo están disponibles públicamente y pueden descargarse para alojarlo por cuenta propia.
Llama 3.3 Instruct 70B tiene 70 mil millones de parámetros.
Llama 3.3 Instruct 70B se publica bajo la licencia LLAMA 3.3 COMMUNITY LICENSE AGREEMENT. El uso comercial está permitido con restricciones. Ver licencia
Llama 3.3 Instruct 70B obtiene 8 puntos en el Artificial Analysis Intelligence Index. Este benchmark compuesto evalúa los modelos en razonamiento, conocimiento, matemáticas y programación.
La fecha límite de conocimiento de Llama 3.3 Instruct 70B es diciembre de 2023. Sus datos de entrenamiento incluyen información hasta esa fecha.
Sí, Llama 3.3 Instruct 70B está disponible mediante API a través de 11 proveedores. Comparar proveedores de API
Llama 3.3 Instruct 70B está disponible a través de 11 proveedores de API. Comparar proveedores