Análise de inteligência, desempenho e preço do Llama 3.3 Instruct 70B
Provedores disponíveis
Resumo do modelo
Verbosidade
Llama 3.3 Instruct 70B aceita entrada em texto, gera saída em texto e tem uma janela de contexto de 128k tokens, com conhecimento até dezembro de 2023.
O preço do Llama 3.3 Instruct 70B é de $0.60 por 1M de tokens de entrada (preço um pouco alto, mediana: $0.45) e $0.71 por 1M de tokens de saída (preço moderado, mediana: $0.71).
| Raciocínio | Não |
|---|---|
| Modalidade de entrada | Compatível com: texto |
| Modalidade de saída | Compatível com: texto |
| Data-limite do conhecimento | 1 de dez. de 2023 |
| Janela de contexto | 128k ~192 páginas A4 em fonte Arial tamanho 12 |
| Parâmetros totais | 70B |
| Licença | LLAMA 3.3 COMMUNITY LICENSE AGREEMENT |
| Pesos do modelo | Hugging Face |
As métricas são comparadas com modelos da mesma classe:
- Modelos sem raciocínio → comparados apenas com outros modelos sem raciocínio
- Modelos de raciocínio → comparados com modelos com e sem raciocínio
- Modelos de pesos abertos → comparados apenas com outros modelos de pesos abertos da mesma classe de tamanho:
- Muito pequeno: ≤4B parâmetros
- Pequeno: 4B–40B parâmetros
- Médio: 40B–150B parâmetros
- Grande: >150B parâmetros
- Modelos proprietários → comparados com modelos proprietários e de pesos abertos da mesma faixa de preço, usando uma proporção combinada de 3:1 entre os preços de entrada e saída:
- <$0.15 por 1M de tokens
- $0.15–$1 por 1M de tokens
- >$1 por 1M de tokens
Inteligência
Artificial Analysis Intelligence Index
Artificial Analysis Intelligence Index: pesos abertos vs. proprietários
Intelligence Index vs. custo por tarefa
Evaluations
Agentic real-world work tasks, Elo
Kubernetes incident root-cause analysis
Openness Index
Artificial Analysis Openness Index: pontuação
Custo
Custo por tarefa do Intelligence Index
Custo de executar o Artificial Analysis Intelligence Index
Preços: acertos de cache, entrada e saída
Desempenho
Medido pelo tempo por tarefa (minutos), pela velocidade de saída (tokens por segundo), pelo tempo até o primeiro token da resposta final e pelo tempo até o primeiro token (segundos)
Tempo por tarefa do Intelligence Index
Velocidade de saída
Tempo até o primeiro token da resposta final
Janela de contexto
Janela de contexto
Tamanho do modelo (somente modelos de pesos abertos)
Tamanho do modelo: parâmetros totais e ativos
Mais detalhes
Pesos | |||||||||
|---|---|---|---|---|---|---|---|---|---|
| Llama 3.3 Instruct 70B |  Meta | - | 70B | 128k | $0.61 | - | 76 |    +6 |
Perguntas frequentes
Perguntas comuns sobre o Llama 3.3 Instruct 70B
O Llama 3.3 Instruct 70B foi lançado em 6 de dezembro de 2024.
Meta criou o Llama 3.3 Instruct 70B.
Llama 3.3 Instruct 70B tem um tempo até o primeiro token da resposta final de 1.71s (com base na mediana dos provedores que oferecem o modelo), um resultado melhor que a média em comparação com outros modelos sem raciocínio, de pesos abertos e tamanho semelhante (mediana: 1.71s).
Llama 3.3 Instruct 70B custa $0.60 por 1M de tokens de entrada (um pouco acima da média, mediana: $0.45) e $0.71 por 1M de tokens de saída (melhor que a média, mediana: $0.71), com base na mediana dos provedores que oferecem o modelo.
Llama 3.3 Instruct 70B custa $0.60 por 1M de tokens de entrada e $0.71 por 1M de tokens de saída (com base na mediana dos provedores que oferecem o modelo). Considerando uma tarifa combinada (proporção de 7:2:1 entre acerto do cache, entrada e saída), o preço é de $0.61 por 1M de tokens. O preço pode variar conforme o provedor. Comparar preços dos provedores
Não, o Llama 3.3 Instruct 70B não é um modelo de raciocínio. Ele fornece respostas diretas, sem raciocínio em cadeia prolongado.
Llama 3.3 Instruct 70B aceita entrada em texto.
Llama 3.3 Instruct 70B permite saída em texto.
Não, o Llama 3.3 Instruct 70B não aceita imagens como entrada. Ele só consegue processar texto.
Não, o Llama 3.3 Instruct 70B não é multimodal. Ele aceita apenas entrada em texto.
Llama 3.3 Instruct 70B tem uma janela de contexto de 128k tokens. Isso determina quanto texto e histórico da conversa o modelo consegue processar em uma única solicitação.
Sim, o Llama 3.3 Instruct 70B é um modelo de pesos abertos. Os pesos estão disponíveis publicamente e podem ser baixados para auto-hospedagem.
Llama 3.3 Instruct 70B tem 70B parâmetros.
Llama 3.3 Instruct 70B foi lançado sob a licença LLAMA 3.3 COMMUNITY LICENSE AGREEMENT. O uso comercial é permitido com restrições. Ver licença
A data-limite do conhecimento do Llama 3.3 Instruct 70B é dezembro de 2023. Os dados de treinamento do modelo incluem informações até essa data.
Sim, o Llama 3.3 Instruct 70B está disponível por API em 9 provedores. Comparar provedores de API
Llama 3.3 Instruct 70B está disponível em 9 provedores de API. Comparar provedores