Este modelo está obsoleto. Continuamos medindo seu desempenho, mas com menos frequência: a cada 18 horas em vez de a cada 6.
NVIDIA lançou uma versão mais recente, Nemotron 3 Super 120B A12B. Sugerimos considerá-la como alternativa.
Análise de inteligência, desempenho e preço do Llama 3.1 Nemotron Instruct 70B
Resumo do modelo
Desempenho
Verbosidade
Llama 3.1 Nemotron Instruct 70B aceita entrada em texto, gera saída em texto e tem uma janela de contexto de 128k tokens, com conhecimento até dezembro de 2023.
| Raciocínio | Não Esta página mostra a versão sem raciocínio deste modelo. Também pode existir uma variante com raciocínio. |
|---|---|
| Modalidade de entrada | Compatível com: texto |
| Modalidade de saída | Compatível com: texto |
| Data-limite do conhecimento | 1 de dez. de 2023 |
| Janela de contexto | 128k ~192 páginas A4 em fonte Arial tamanho 12 |
| Parâmetros totais | 70B |
| Licença | LLAMA 3.1 COMMUNITY LICENSE AGREEMENT |
| Pesos do modelo | Hugging Face |
As métricas são comparadas com modelos da mesma classe:
- Modelos sem raciocínio → comparados apenas com outros modelos sem raciocínio
- Modelos de raciocínio → comparados com modelos com e sem raciocínio
- Modelos de pesos abertos → comparados apenas com outros modelos de pesos abertos da mesma classe de tamanho:
- Muito pequeno: ≤4B parâmetros
- Pequeno: 4B–40B parâmetros
- Médio: 40B–150B parâmetros
- Grande: >150B parâmetros
- Modelos proprietários → comparados com modelos proprietários e de pesos abertos da mesma faixa de preço, usando uma proporção combinada de 3:1 entre os preços de entrada e saída:
- <$0.15 por 1M de tokens
- $0.15–$1 por 1M de tokens
- >$1 por 1M de tokens
Tempo por tarefa
Inteligência
Artificial Analysis Intelligence Index
Artificial Analysis Intelligence Index: pesos abertos vs. proprietários
Intelligence Index vs. custo por tarefa
Evaluations
Agentic knowledge work, Elo
Knowledge
1 - hallucination rate
Agentic SaaS workflows
Agentic scientific research workflows in a terminal
Agentic software engineering in open-source repositories
Reasoning & knowledge
Professional document reasoning, All-pass
Agentic coding & terminal use
Physics reasoning
Quantitative analysis on spreadsheets & documents
Legal agentic work, Hallucination-Gated All-Pass Rate
Agentic business operations
Agentic real-world work tasks, Elo
Agentic interactive 3D experiences, Elo
Product and brand videos designed in code, Elo
Kubernetes incident root-cause analysis
Medical long context reasoning
Visual reasoning
Rich, varied, well-crafted language
Well-structured, scannable, answer-first
Truthful, acknowledges uncertainty, non-sycophantic
Use of filler and generic language
Openness Index
Artificial Analysis Openness Index: pontuação
Custo
Custo por tarefa do Intelligence Index
Custo de executar o Artificial Analysis Intelligence Index
Preços: acertos de cache, entrada e saída
Janela de contexto
Janela de contexto
Tamanho do modelo (somente modelos de pesos abertos)
Tamanho do modelo: parâmetros totais e ativos
Perguntas frequentes
Perguntas comuns sobre o Llama 3.1 Nemotron Instruct 70B
O Llama 3.1 Nemotron Instruct 70B foi lançado em 15 de outubro de 2024.
NVIDIA criou o Llama 3.1 Nemotron Instruct 70B.
Não, o Llama 3.1 Nemotron Instruct 70B não é um modelo de raciocínio. Ele fornece respostas diretas, sem raciocínio em cadeia prolongado.
Llama 3.1 Nemotron Instruct 70B aceita entrada em texto.
Llama 3.1 Nemotron Instruct 70B permite saída em texto.
Não, o Llama 3.1 Nemotron Instruct 70B não aceita imagens como entrada. Ele só consegue processar texto.
Não, o Llama 3.1 Nemotron Instruct 70B não é multimodal. Ele aceita apenas entrada em texto.
Llama 3.1 Nemotron Instruct 70B tem uma janela de contexto de 128k tokens. Isso determina quanto texto e histórico da conversa o modelo consegue processar em uma única solicitação.
Sim, o Llama 3.1 Nemotron Instruct 70B é um modelo de pesos abertos. Os pesos estão disponíveis publicamente e podem ser baixados para auto-hospedagem.
Llama 3.1 Nemotron Instruct 70B tem 70 bilhões parâmetros.
Llama 3.1 Nemotron Instruct 70B foi lançado sob a licença LLAMA 3.1 COMMUNITY LICENSE AGREEMENT. O uso comercial é permitido com restrições. Ver licença
A data-limite do conhecimento do Llama 3.1 Nemotron Instruct 70B é dezembro de 2023. Os dados de treinamento do modelo incluem informações até essa data.
Llama 3.1 Nemotron Instruct 70B é um modelo de pesos abertos que pode ser auto-hospedado. Ver provedores
Llama 3.1 Nemotron Instruct 70B é um modelo de pesos abertos que pode ser baixado e auto-hospedado. Comparar provedores