Análise de inteligência, desempenho e preço do Llama 3.1 Instruct 405B
Resumo do modelo
Inteligência
Velocidade
Preço de entrada
Preço de saída
Verbosidade
Llama 3.1 Instruct 405B está abaixo da média em inteligência e tem preço especialmente alto em comparação com outros modelos sem raciocínio, de pesos abertos e tamanho semelhante. O modelo aceita entrada em texto, gera saída em texto e tem uma janela de contexto de 128k tokens, com conhecimento até dezembro de 2023.
Llama 3.1 Instruct 405B alcança 9 pontos no Artificial Analysis Intelligence Index, ficando abaixo da média entre os modelos comparáveis (mediana: 17).
O preço do Llama 3.1 Instruct 405B é de $2.50 por 1M de tokens de entrada (preço alto, mediana: $0.43) e $10.00 por 1M de tokens de saída (preço alto, mediana: $1.31).
| Raciocínio | Não Esta página mostra a versão sem raciocínio deste modelo. Também pode existir uma variante com raciocínio. |
|---|---|
| Modalidade de entrada | Compatível com: texto |
| Modalidade de saída | Compatível com: texto |
| Data-limite do conhecimento | 1 de dez. de 2023 |
| Janela de contexto | 128k ~192 páginas A4 em fonte Arial tamanho 12 |
| Parâmetros totais | 405B |
| Licença | LLAMA 3.1 COMMUNITY LICENSE AGREEMENT |
| Pesos do modelo | Hugging Face |
As métricas são comparadas com modelos da mesma classe:
- Modelos sem raciocínio → comparados apenas com outros modelos sem raciocínio
- Modelos de raciocínio → comparados com modelos com e sem raciocínio
- Modelos de pesos abertos → comparados apenas com outros modelos de pesos abertos da mesma classe de tamanho:
- Muito pequeno: ≤4B parâmetros
- Pequeno: 4B–40B parâmetros
- Médio: 40B–150B parâmetros
- Grande: >150B parâmetros
- Modelos proprietários → comparados com modelos proprietários e de pesos abertos da mesma faixa de preço, usando uma proporção combinada de 3:1 entre os preços de entrada e saída:
- <$0.15 por 1M de tokens
- $0.15–$1 por 1M de tokens
- >$1 por 1M de tokens
Destaques
Velocidade
Inteligência
Artificial Analysis Intelligence Index
Artificial Analysis Intelligence Index by Open Weights / Proprietary
Intelligence Evaluations
Agentic real-world work tasks, (Elo-500)/2000
Agentic tool use
Agentic coding & terminal use
Coding
Reasoning & knowledge
Scientific reasoning
Physics reasoning
Knowledge
1 - hallucination rate
Long context reasoning
Agentic knowledge work, Elo
Agentic SaaS workflows
Legal agentic work, criterion pass rate
Agentic business operations
Instruction following
Long-horizon agentic tasks
Kubernetes incident root-cause analysis
Visual reasoning
AA-Omniscience
AA-Omniscience Index
Openness Index
Artificial Analysis Openness Index: Score
Comparações do Intelligence Index
Intelligence Index vs. Cost per Intelligence Index Task
Custo
Cost per Intelligence Index Task
Cost to Run Artificial Analysis Intelligence Index
Pricing: Cache Hit, Input, and Output
Janela de contexto
Context Window
Tamanho do modelo (somente modelos de pesos abertos)
Model Size: Total and Active Parameters
Perguntas frequentes
Perguntas comuns sobre o Llama 3.1 Instruct 405B
O Llama 3.1 Instruct 405B foi lançado em 23 de julho de 2024.
Meta criou o Llama 3.1 Instruct 405B.
Llama 3.1 Instruct 405B alcança 9 pontos (estimativa) no Artificial Analysis Intelligence Index, ficando abaixo da média entre outros modelos sem raciocínio, de pesos abertos e tamanho semelhante (mediana: 17).
Llama 3.1 Instruct 405B custa $2.50 por 1M de tokens de entrada (na faixa superior, mediana: $0.60) e $10.00 por 1M de tokens de saída (na faixa superior, mediana: $2.50), com base na mediana dos provedores que oferecem o modelo.
Llama 3.1 Instruct 405B custa $2.50 por 1M de tokens de entrada e $10.00 por 1M de tokens de saída (com base na mediana dos provedores que oferecem o modelo). Considerando uma tarifa combinada (proporção de 7:2:1 entre acerto do cache, entrada e saída), o preço é de $3.25 por 1M de tokens. O preço pode variar conforme o provedor. Comparar preços dos provedores
Não, o Llama 3.1 Instruct 405B não é um modelo de raciocínio. Ele fornece respostas diretas, sem raciocínio em cadeia prolongado.
Llama 3.1 Instruct 405B aceita entrada em texto.
Llama 3.1 Instruct 405B permite saída em texto.
Não, o Llama 3.1 Instruct 405B não aceita imagens como entrada. Ele só consegue processar texto.
Não, o Llama 3.1 Instruct 405B não é multimodal. Ele aceita apenas entrada em texto.
Llama 3.1 Instruct 405B tem uma janela de contexto de 130k tokens. Isso determina quanto texto e histórico da conversa o modelo consegue processar em uma única solicitação.
Sim, o Llama 3.1 Instruct 405B é um modelo de pesos abertos. Os pesos estão disponíveis publicamente e podem ser baixados para auto-hospedagem.
Llama 3.1 Instruct 405B tem 405 bilhões parâmetros.
Llama 3.1 Instruct 405B foi lançado sob a licença LLAMA 3.1 COMMUNITY LICENSE AGREEMENT. Essa licença permite o uso comercial. Ver licença
Llama 3.1 Instruct 405B alcança 9 pontos no Artificial Analysis Intelligence Index. Esse benchmark composto avalia os modelos em raciocínio, conhecimento, matemática e programação.
A data-limite do conhecimento do Llama 3.1 Instruct 405B é dezembro de 2023. Os dados de treinamento do modelo incluem informações até essa data.
Sim, o Llama 3.1 Instruct 405B está disponível por API em 1 provedor. Comparar provedores de API
Llama 3.1 Instruct 405B está disponível em 1 provedor de API. Comparar provedores