Este modelo está obsoleto. Seguimos midiendo su rendimiento, pero con menos frecuencia: cada 18 horas en lugar de cada 6.
Meta lanzó una versión más reciente, Llama 3 Instruct 70B. Te sugerimos considerarla como alternativa.
Análisis de inteligencia, rendimiento y precio de Llama 2 Chat 70B
Resumen del modelo
Rendimiento
Verbosidad
Llama 2 Chat 70B admite entrada de texto, genera texto y tiene una ventana de contexto de 4k tokens con conocimientos hasta julio de 2023.
| Razonamiento | No Esta página muestra la versión sin razonamiento de este modelo. También puede existir una variante con razonamiento. |
|---|---|
| Modalidad de entrada | Admite: texto |
| Modalidad de salida | Admite: texto |
| Fecha límite de conocimiento | 1 jul 2023 |
| Ventana de contexto | 4k ~6 páginas A4 con fuente Arial de 12 puntos |
| Parámetros totales | 70B |
| Licencia | Llama 2 Community License Agreement |
| Pesos del modelo | Hugging Face |
Las métricas se comparan con modelos de la misma clase:
- Modelos sin razonamiento → se comparan solo con otros modelos sin razonamiento
- Modelos de razonamiento → se comparan tanto con modelos de razonamiento como sin razonamiento
- Modelos de pesos abiertos → se comparan solo con otros modelos de pesos abiertos de la misma categoría de tamaño:
- Muy pequeño: ≤4B parámetros
- Pequeño: 4B–40B parámetros
- Mediano: 40B–150B parámetros
- Grande: >150B parámetros
- Modelos propietarios → se comparan con modelos propietarios y de pesos abiertos del mismo rango de precio mediante una proporción combinada de precios de entrada/salida de 3:1:
- <$0.15 por 1 M de tokens
- $0.15–$1 por 1 M de tokens
- >$1 por 1 M de tokens
Tiempo por tarea
Inteligencia
Artificial Analysis Intelligence Index
Artificial Analysis Intelligence Index: pesos abiertos vs. propietarios
Intelligence Index vs. costo por tarea
Evaluations
Agentic knowledge work, Elo
Knowledge
1 - hallucination rate
Agentic SaaS workflows
Agentic scientific research workflows in a terminal
Agentic software engineering in open-source repositories
Reasoning & knowledge
Professional document reasoning, All-pass
Agentic coding & terminal use
Physics reasoning
Quantitative analysis on spreadsheets & documents
Legal agentic work, Hallucination-Gated All-Pass Rate
Agentic business operations
Agentic real-world work tasks, Elo
Agentic interactive 3D experiences, Elo
Product and brand videos designed in code, Elo
Kubernetes incident root-cause analysis
Medical long context reasoning
Visual reasoning
Rich, varied, well-crafted language
Well-structured, scannable, answer-first
Truthful, acknowledges uncertainty, non-sycophantic
Use of filler and generic language
Openness Index
Artificial Analysis Openness Index: puntuación
Costo
Costo por tarea del Intelligence Index
Costo de ejecutar el Artificial Analysis Intelligence Index
Precios: aciertos de caché, entrada y salida
Ventana de contexto
Ventana de contexto
Tamaño del modelo (solo modelos de pesos abiertos)
Tamaño del modelo: parámetros totales y activos
Preguntas frecuentes
Preguntas comunes sobre Llama 2 Chat 70B
Llama 2 Chat 70B se lanzó el 18 de julio de 2023.
Llama 2 Chat 70B fue creado por Meta.
No, Llama 2 Chat 70B no es un modelo de razonamiento. Responde directamente sin razonamiento extendido en cadena.
Llama 2 Chat 70B admite entrada de texto.
Llama 2 Chat 70B admite salida de texto.
No, Llama 2 Chat 70B no admite imágenes como entrada. Solo puede procesar texto.
No, Llama 2 Chat 70B no es multimodal. Solo admite entradas de texto.
Llama 2 Chat 70B tiene una ventana de contexto de 4k tokens. Esto determina cuánto texto e historial de conversación puede procesar el modelo en una sola solicitud.
Sí, Llama 2 Chat 70B es un modelo de pesos abiertos. Los pesos del modelo están disponibles públicamente y pueden descargarse para alojarlo por cuenta propia.
Llama 2 Chat 70B tiene 70 mil millones de parámetros.
Llama 2 Chat 70B se publica bajo la licencia Llama 2 Community License Agreement. El uso comercial está permitido con restricciones. Ver licencia
La fecha límite de conocimiento de Llama 2 Chat 70B es julio de 2023. Sus datos de entrenamiento incluyen información hasta esa fecha.
Llama 2 Chat 70B es un modelo de pesos abiertos que puede alojarse por cuenta propia. Ver proveedores
Llama 2 Chat 70B es un modelo de pesos abiertos que puede descargarse y alojarse por cuenta propia. Comparar proveedores