Análisis de inteligencia, rendimiento y precio de Llama 3.1 Instruct 405B
Resumen del modelo
Velocidad
Verbosidad
Llama 3.1 Instruct 405B está por debajo del promedio en inteligencia, pero tiene un precio muy competitivo en comparación con otros modelos sin razonamiento, de pesos abiertos y tamaño similar. El modelo admite entrada de texto, genera texto y tiene una ventana de contexto de 128k tokens con conocimientos hasta diciembre de 2023.
Llama 3.1 Instruct 405B obtiene 8 puntos en el Índice de Inteligencia de Artificial Analysis, lo que lo sitúa por debajo del promedio entre modelos comparables (con una mediana de 18).
El precio de Llama 3.1 Instruct 405B es de $0.00 por 1 M de tokens de entrada (muy competitivo; mediana: $0.29) y $0.00 por 1 M de tokens de salida (muy competitivo; mediana: $0.95).
| Razonamiento | No Esta página muestra la versión sin razonamiento de este modelo. También puede existir una variante con razonamiento. |
|---|---|
| Modalidad de entrada | Admite: texto |
| Modalidad de salida | Admite: texto |
| Fecha límite de conocimiento | 1 dic 2023 |
| Ventana de contexto | 128k ~192 páginas A4 con fuente Arial de 12 puntos |
| Parámetros totales | 405B |
| Licencia | LLAMA 3.1 COMMUNITY LICENSE AGREEMENT |
| Pesos del modelo | Hugging Face |
Las métricas se comparan con modelos de la misma clase:
- Modelos sin razonamiento → se comparan solo con otros modelos sin razonamiento
- Modelos de razonamiento → se comparan tanto con modelos de razonamiento como sin razonamiento
- Modelos de pesos abiertos → se comparan solo con otros modelos de pesos abiertos de la misma categoría de tamaño:
- Muy pequeño: ≤4B parámetros
- Pequeño: 4B–40B parámetros
- Mediano: 40B–150B parámetros
- Grande: >150B parámetros
- Modelos propietarios → se comparan con modelos propietarios y de pesos abiertos del mismo rango de precio mediante una proporción combinada de precios de entrada/salida de 3:1:
- <$0.15 por 1 M de tokens
- $0.15–$1 por 1 M de tokens
- >$1 por 1 M de tokens
Aspectos destacados
Velocidad
Inteligencia
Artificial Analysis Intelligence Index
Artificial Analysis Intelligence Index by Open Weights / Proprietary
Intelligence Evaluations
Agentic real-world work tasks, (Elo-500)/2000
Agentic tool use
Agentic coding & terminal use
Coding
Reasoning & knowledge
Scientific reasoning
Physics reasoning
Knowledge
1 - hallucination rate
Long context reasoning
Agentic knowledge work, Elo
Agentic SaaS workflows
Legal agentic work, criterion pass rate
Agentic business operations
Quantitative analysis on spreadsheets & documents
Instruction following
Long-horizon agentic tasks
Kubernetes incident root-cause analysis
Visual reasoning
AA-Omniscience
AA-Omniscience Index
Índice de apertura
Artificial Analysis Openness Index: Score
Comparaciones del Índice de Inteligencia
Intelligence Index vs. Cost per Intelligence Index Task
Costo
Cost per Intelligence Index Task
Cost to Run Artificial Analysis Intelligence Index
Pricing: Cache Hit, Input, and Output
Ventana de contexto
Context Window
Tamaño del modelo (solo modelos de pesos abiertos)
Model Size: Total and Active Parameters
Preguntas frecuentes
Preguntas comunes sobre Llama 3.1 Instruct 405B
Llama 3.1 Instruct 405B se lanzó el 23 de julio de 2024.
Llama 3.1 Instruct 405B fue creado por Meta.
Llama 3.1 Instruct 405B obtiene 8 puntos (estimados) en el Índice de Inteligencia de Artificial Analysis, lo que lo sitúa por debajo del promedio entre otros modelos sin razonamiento, de pesos abiertos y tamaño similar (mediana: 18).
No, Llama 3.1 Instruct 405B no es un modelo de razonamiento. Responde directamente sin razonamiento extendido en cadena.
Llama 3.1 Instruct 405B admite entrada de texto.
Llama 3.1 Instruct 405B admite salida de texto.
No, Llama 3.1 Instruct 405B no admite imágenes como entrada. Solo puede procesar texto.
No, Llama 3.1 Instruct 405B no es multimodal. Solo admite entradas de texto.
Llama 3.1 Instruct 405B tiene una ventana de contexto de 130k tokens. Esto determina cuánto texto e historial de conversación puede procesar el modelo en una sola solicitud.
Sí, Llama 3.1 Instruct 405B es un modelo de pesos abiertos. Los pesos del modelo están disponibles públicamente y pueden descargarse para alojarlo por cuenta propia.
Llama 3.1 Instruct 405B tiene 405 mil millones de parámetros.
Llama 3.1 Instruct 405B se publica bajo la licencia LLAMA 3.1 COMMUNITY LICENSE AGREEMENT, que permite el uso comercial. Ver licencia
Llama 3.1 Instruct 405B obtiene 8 puntos en el Índice de Inteligencia de Artificial Analysis. Este benchmark compuesto evalúa los modelos en razonamiento, conocimiento, matemáticas y programación.
La fecha límite de conocimiento de Llama 3.1 Instruct 405B es diciembre de 2023. Sus datos de entrenamiento incluyen información hasta esa fecha.
Llama 3.1 Instruct 405B es un modelo de pesos abiertos que puede alojarse por cuenta propia. Ver proveedores
Llama 3.1 Instruct 405B es un modelo de pesos abiertos que puede descargarse y alojarse por cuenta propia. Comparar proveedores