Análise de inteligência, desempenho e preço do Llama 3.1 Instruct 405B
Resumo do modelo
Velocidade
Verbosidade
Llama 3.1 Instruct 405B aceita entrada em texto, gera saída em texto e tem uma janela de contexto de 128k tokens, com conhecimento até dezembro de 2023.
| Raciocínio | Não Esta página mostra a versão sem raciocínio deste modelo. Também pode existir uma variante com raciocínio. |
|---|---|
| Modalidade de entrada | Compatível com: texto |
| Modalidade de saída | Compatível com: texto |
| Data-limite do conhecimento | 1 de dez. de 2023 |
| Janela de contexto | 128k ~192 páginas A4 em fonte Arial tamanho 12 |
| Parâmetros totais | 405B |
| Licença | LLAMA 3.1 COMMUNITY LICENSE AGREEMENT |
| Pesos do modelo | Hugging Face |
As métricas são comparadas com modelos da mesma classe:
- Modelos sem raciocínio → comparados apenas com outros modelos sem raciocínio
- Modelos de raciocínio → comparados com modelos com e sem raciocínio
- Modelos de pesos abertos → comparados apenas com outros modelos de pesos abertos da mesma classe de tamanho:
- Muito pequeno: ≤4B parâmetros
- Pequeno: 4B–40B parâmetros
- Médio: 40B–150B parâmetros
- Grande: >150B parâmetros
- Modelos proprietários → comparados com modelos proprietários e de pesos abertos da mesma faixa de preço, usando uma proporção combinada de 3:1 entre os preços de entrada e saída:
- <$0.15 por 1M de tokens
- $0.15–$1 por 1M de tokens
- >$1 por 1M de tokens
Velocidade
Inteligência
Artificial Analysis Intelligence Index
Artificial Analysis Intelligence Index: pesos abertos vs. proprietários
Intelligence Index vs. custo por tarefa
Evaluations
Agentic knowledge work, Elo
Knowledge
1 - hallucination rate
Agentic SaaS workflows
Agentic scientific research workflows in a terminal
Agentic software engineering in open-source repositories
Reasoning & knowledge
Professional document reasoning, All-pass
Agentic coding & terminal use
Physics reasoning
Quantitative analysis on spreadsheets & documents
Legal agentic work, Hallucination-Gated All-Pass Rate
Agentic business operations
Agentic real-world work tasks, Elo
Agentic interactive 3D experiences, Elo
Product and brand videos designed in code, Elo
Kubernetes incident root-cause analysis
Medical long context reasoning
Visual reasoning
Rich, varied, well-crafted language
Well-structured, scannable, answer-first
Truthful, acknowledges uncertainty, non-sycophantic
Use of filler and generic language
Openness Index
Artificial Analysis Openness Index: pontuação
Comparações do Intelligence Index
Intelligence Index vs. custo por tarefa
Custo
Custo por tarefa do Intelligence Index
Custo de executar o Artificial Analysis Intelligence Index
Preços: acertos de cache, entrada e saída
Janela de contexto
Janela de contexto
Tamanho do modelo (somente modelos de pesos abertos)
Tamanho do modelo: parâmetros totais e ativos
Perguntas frequentes
Perguntas comuns sobre o Llama 3.1 Instruct 405B
O Llama 3.1 Instruct 405B foi lançado em 23 de julho de 2024.
Meta criou o Llama 3.1 Instruct 405B.
Não, o Llama 3.1 Instruct 405B não é um modelo de raciocínio. Ele fornece respostas diretas, sem raciocínio em cadeia prolongado.
Llama 3.1 Instruct 405B aceita entrada em texto.
Llama 3.1 Instruct 405B permite saída em texto.
Não, o Llama 3.1 Instruct 405B não aceita imagens como entrada. Ele só consegue processar texto.
Não, o Llama 3.1 Instruct 405B não é multimodal. Ele aceita apenas entrada em texto.
Llama 3.1 Instruct 405B tem uma janela de contexto de 130k tokens. Isso determina quanto texto e histórico da conversa o modelo consegue processar em uma única solicitação.
Sim, o Llama 3.1 Instruct 405B é um modelo de pesos abertos. Os pesos estão disponíveis publicamente e podem ser baixados para auto-hospedagem.
Llama 3.1 Instruct 405B tem 405 bilhões parâmetros.
Llama 3.1 Instruct 405B foi lançado sob a licença LLAMA 3.1 COMMUNITY LICENSE AGREEMENT. O uso comercial é permitido com restrições. Ver licença
A data-limite do conhecimento do Llama 3.1 Instruct 405B é dezembro de 2023. Os dados de treinamento do modelo incluem informações até essa data.
Llama 3.1 Instruct 405B é um modelo de pesos abertos que pode ser auto-hospedado. Ver provedores
Llama 3.1 Instruct 405B é um modelo de pesos abertos que pode ser baixado e auto-hospedado. Comparar provedores