This model is deprecated. We only continue performance benchmarking for the default 10k input token workload. Results for other workloads are historical and no longer updated.
Meta has launched a newer model, Llama 3.1 8B. We suggest considering it instead.
For more information, see comparison of Llama 3.1 8B to other models and API provider benchmarks for Llama 3.1 8B.
Llama 3 Instruct 8B Benchmarking e análise de provedores de API
Esta análise ajuda você a escolher o melhor provedor de API de Llama 3 Instruct 8B para seu caso de uso.
Mais rápido
Velocidade de saída
4 provedores no total
Menor latência
Tempo até o primeiro token
4 provedores no total
Menor preço
DeepInfra
Novita
Replicate
AmazonPreço combinado (por 1M de tokens)
4 provedores no total
Llama 3 8B está disponível em 4 provedores de API, cada um com características de desempenho e preços diferentes. Veja abaixo uma comparação das principais métricas entre os provedores.
- Em preço, DeepInfra (0.03), Novita (0.04) e Replicate (0.07) têm os menores preços combinados por 1M de tokens. Os preços variam em até 10.6x entre os provedores.
Consulte a página do modelo Llama 3 Instruct 8B para ver detalhes do modelo e comparar sua inteligência com a de outros modelos.
Destaques
Preços
Pricing: Cache Hit, Input, and Output
Pricing: Blended Price
Output Speed vs. Price
Velocidade
Medida pela velocidade de saída (tokens por segundo)
Output Speed: Llama 3 Instruct 8B
Latency vs. Output Speed
Latência
Medida pelo tempo (segundos) até o primeiro token
Tempo até o primeiro token
Tempo de resposta de ponta a ponta
Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed
Tempo de resposta de ponta a ponta
Principais métricas de comparação e recursos da API
Perguntas frequentes
Perguntas comuns sobre os provedores do Llama 3 Instruct 8B
Atualmente, o Llama 3 Instruct 8B está disponível em 4 provedores de API que avaliamos e acompanhamos.
1 de 4 provedores são compatíveis com chamadas de funções para o Llama 3 Instruct 8B: DeepInfra.
Ao escolher um provedor para o Llama 3 Instruct 8B, considere a velocidade de saída (para tarefas que exigem alta vazão), a latência (para aplicações interativas que precisam de respostas iniciais rápidas), o preço (para cargas de trabalho atentas aos custos) e os recursos da API, como modo JSON e chamadas de funções.
Sim. O desempenho dos provedores pode variar ao longo do tempo devido a mudanças na infraestrutura, balanceamento de carga e atualizações. Avaliamos continuamente todos os provedores e exibimos as tendências históricas de desempenho nos gráficos de evolução ao longo do tempo.
Para saber mais sobre a inteligência, as capacidades e as modalidades do Llama 3 Instruct 8B, além de como ele se compara a outros modelos, consulte a página de visão geral do modelo. Ver visão geral do modelo