Este modelo está obsoleto. Continuamos medindo o desempenho apenas para a carga padrão de 10 mil tokens de entrada. Os resultados de outras cargas são históricos e não são mais atualizados.
NVIDIA lançou uma versão mais recente, Nemotron 3 Super 120B A12B. Sugerimos considerá-la como alternativa.
Análise de inteligência, desempenho e preço do Llama 3.1 Nemotron Instruct 70B
Resumo do modelo
Velocidade
Verbosidade
Llama 3.1 Nemotron Instruct 70B está acima da média em inteligência em comparação com outros modelos sem raciocínio, de pesos abertos e tamanho semelhante. O modelo aceita entrada em texto, gera saída em texto e tem uma janela de contexto de 128k tokens, com conhecimento até dezembro de 2023.
Llama 3.1 Nemotron Instruct 70B alcança 7 pontos no Artificial Analysis Intelligence Index, ficando acima da média entre os modelos comparáveis (mediana: 7).
| Raciocínio | Não Esta página mostra a versão sem raciocínio deste modelo. Também pode existir uma variante com raciocínio. |
|---|---|
| Modalidade de entrada | Compatível com: texto |
| Modalidade de saída | Compatível com: texto |
| Data-limite do conhecimento | 1 de dez. de 2023 |
| Janela de contexto | 128k ~192 páginas A4 em fonte Arial tamanho 12 |
| Parâmetros totais | 70B |
| Licença | LLAMA 3.1 COMMUNITY LICENSE AGREEMENT |
| Pesos do modelo | Hugging Face |
As métricas são comparadas com modelos da mesma classe:
- Modelos sem raciocínio → comparados apenas com outros modelos sem raciocínio
- Modelos de raciocínio → comparados com modelos com e sem raciocínio
- Modelos de pesos abertos → comparados apenas com outros modelos de pesos abertos da mesma classe de tamanho:
- Muito pequeno: ≤4B parâmetros
- Pequeno: 4B–40B parâmetros
- Médio: 40B–150B parâmetros
- Grande: >150B parâmetros
- Modelos proprietários → comparados com modelos proprietários e de pesos abertos da mesma faixa de preço, usando uma proporção combinada de 3:1 entre os preços de entrada e saída:
- <$0.15 por 1M de tokens
- $0.15–$1 por 1M de tokens
- >$1 por 1M de tokens
Velocidade
Inteligência
Artificial Analysis Intelligence Index
Artificial Analysis Intelligence Index: pesos abertos vs. proprietários
Intelligence Index vs. custo por tarefa
Evaluations
Agentic knowledge work, (Elo-500)/2000
Knowledge
1 - hallucination rate
Agentic SaaS workflows
Agentic real-world work tasks, (Elo-500)/2000
Reasoning & knowledge
Professional document reasoning, All-pass
Agentic coding & terminal use
Long context reasoning
Coding
Physics reasoning
Agentic scientific research workflows in a terminal
Agentic software engineering in open-source repositories
Quantitative analysis on spreadsheets & documents
Legal agentic work, Hallucination-Gated All-Pass Rate
Agentic business operations
Kubernetes incident root-cause analysis
Medical long context reasoning
Visual reasoning
AA-Omniscience
AA-Omniscience Index
Openness Index
Artificial Analysis Openness Index: pontuação
Comparações do Intelligence Index
Intelligence Index vs. custo por tarefa
Custo
Custo por tarefa do Intelligence Index
Custo de executar o Artificial Analysis Intelligence Index
Preços: acertos de cache, entrada e saída
Janela de contexto
Janela de contexto
Tamanho do modelo (somente modelos de pesos abertos)
Tamanho do modelo: parâmetros totais e ativos
Perguntas frequentes
Perguntas comuns sobre o Llama 3.1 Nemotron Instruct 70B
O Llama 3.1 Nemotron Instruct 70B foi lançado em 15 de outubro de 2024.
NVIDIA criou o Llama 3.1 Nemotron Instruct 70B.
Llama 3.1 Nemotron Instruct 70B alcança 7 pontos (estimativa) no Artificial Analysis Intelligence Index, ficando acima da média entre outros modelos sem raciocínio, de pesos abertos e tamanho semelhante (mediana: 7).
Não, o Llama 3.1 Nemotron Instruct 70B não é um modelo de raciocínio. Ele fornece respostas diretas, sem raciocínio em cadeia prolongado.
Llama 3.1 Nemotron Instruct 70B aceita entrada em texto.
Llama 3.1 Nemotron Instruct 70B permite saída em texto.
Não, o Llama 3.1 Nemotron Instruct 70B não aceita imagens como entrada. Ele só consegue processar texto.
Não, o Llama 3.1 Nemotron Instruct 70B não é multimodal. Ele aceita apenas entrada em texto.
Llama 3.1 Nemotron Instruct 70B tem uma janela de contexto de 130k tokens. Isso determina quanto texto e histórico da conversa o modelo consegue processar em uma única solicitação.
Sim, o Llama 3.1 Nemotron Instruct 70B é um modelo de pesos abertos. Os pesos estão disponíveis publicamente e podem ser baixados para auto-hospedagem.
Llama 3.1 Nemotron Instruct 70B tem 70 bilhões parâmetros.
Llama 3.1 Nemotron Instruct 70B foi lançado sob a licença LLAMA 3.1 COMMUNITY LICENSE AGREEMENT. O uso comercial é permitido com restrições. Ver licença
Llama 3.1 Nemotron Instruct 70B alcança 7 pontos no Artificial Analysis Intelligence Index. Esse benchmark composto avalia os modelos em raciocínio, conhecimento, matemática e programação.
A data-limite do conhecimento do Llama 3.1 Nemotron Instruct 70B é dezembro de 2023. Os dados de treinamento do modelo incluem informações até essa data.
Llama 3.1 Nemotron Instruct 70B é um modelo de pesos abertos que pode ser auto-hospedado. Ver provedores
Llama 3.1 Nemotron Instruct 70B é um modelo de pesos abertos que pode ser baixado e auto-hospedado. Comparar provedores