Este modelo está obsoleto. Seguimos midiendo su rendimiento, pero con menos frecuencia: cada 18 horas en lugar de cada 6.
NVIDIA lanzó una versión más reciente, Nemotron 3 Super 120B A12B. Te sugerimos considerarla como alternativa.
Análisis de inteligencia, rendimiento y precio de Llama 3.1 Nemotron Instruct 70B
Resumen del modelo
Rendimiento
Verbosidad
Llama 3.1 Nemotron Instruct 70B admite entrada de texto, genera texto y tiene una ventana de contexto de 128k tokens con conocimientos hasta diciembre de 2023.
| Razonamiento | No |
|---|---|
| Modalidad de entrada | Admite: texto |
| Modalidad de salida | Admite: texto |
| Fecha límite de conocimiento | 1 dic 2023 |
| Ventana de contexto | 128k ~192 páginas A4 con fuente Arial de 12 puntos |
| Parámetros totales | 70B |
| Licencia | LLAMA 3.1 COMMUNITY LICENSE AGREEMENT |
| Pesos del modelo | Hugging Face |
Las métricas se comparan con modelos de la misma clase:
- Modelos sin razonamiento → se comparan solo con otros modelos sin razonamiento
- Modelos de razonamiento → se comparan tanto con modelos de razonamiento como sin razonamiento
- Modelos de pesos abiertos → se comparan solo con otros modelos de pesos abiertos de la misma categoría de tamaño:
- Muy pequeño: ≤4B parámetros
- Pequeño: 4B–40B parámetros
- Mediano: 40B–150B parámetros
- Grande: >150B parámetros
- Modelos propietarios → se comparan con modelos propietarios y de pesos abiertos del mismo rango de precio mediante una proporción combinada de precios de entrada/salida de 3:1:
- <$0.15 por 1 M de tokens
- $0.15–$1 por 1 M de tokens
- >$1 por 1 M de tokens
Tiempo por tarea
Inteligencia
Artificial Analysis Intelligence Index
Artificial Analysis Intelligence Index: pesos abiertos vs. propietarios
Intelligence Index vs. costo por tarea
Openness Index
Artificial Analysis Openness Index: puntuación
Costo
Costo por tarea del Intelligence Index
Costo de ejecutar el Artificial Analysis Intelligence Index
Precios: aciertos de caché, entrada y salida
Ventana de contexto
Ventana de contexto
Tamaño del modelo (solo modelos de pesos abiertos)
Tamaño del modelo: parámetros totales y activos
Más detalles
Pesos | |||||||||
|---|---|---|---|---|---|---|---|---|---|
| Llama 3.1 Nemotron Instruct 70B |  NVIDIA | - | 70B | 128k | - | - | - | - |
Preguntas frecuentes
Preguntas comunes sobre Llama 3.1 Nemotron Instruct 70B
Llama 3.1 Nemotron Instruct 70B se lanzó el 15 de octubre de 2024.
Llama 3.1 Nemotron Instruct 70B fue creado por NVIDIA.
No, Llama 3.1 Nemotron Instruct 70B no es un modelo de razonamiento. Responde directamente sin razonamiento extendido en cadena.
Llama 3.1 Nemotron Instruct 70B admite entrada de texto.
Llama 3.1 Nemotron Instruct 70B admite salida de texto.
No, Llama 3.1 Nemotron Instruct 70B no admite imágenes como entrada. Solo puede procesar texto.
No, Llama 3.1 Nemotron Instruct 70B no es multimodal. Solo admite entradas de texto.
Llama 3.1 Nemotron Instruct 70B tiene una ventana de contexto de 128k tokens. Esto determina cuánto texto e historial de conversación puede procesar el modelo en una sola solicitud.
Sí, Llama 3.1 Nemotron Instruct 70B es un modelo de pesos abiertos. Los pesos del modelo están disponibles públicamente y pueden descargarse para alojarlo por cuenta propia.
Llama 3.1 Nemotron Instruct 70B tiene 70B parámetros.
Llama 3.1 Nemotron Instruct 70B se publica bajo la licencia LLAMA 3.1 COMMUNITY LICENSE AGREEMENT. El uso comercial está permitido con restricciones. Ver licencia
La fecha límite de conocimiento de Llama 3.1 Nemotron Instruct 70B es diciembre de 2023. Sus datos de entrenamiento incluyen información hasta esa fecha.
Llama 3.1 Nemotron Instruct 70B es un modelo de pesos abiertos que puede alojarse por cuenta propia. Ver proveedores
Llama 3.1 Nemotron Instruct 70B es un modelo de pesos abiertos que puede descargarse y alojarse por cuenta propia. Comparar proveedores