This model is deprecated. We only continue performance benchmarking for the default 10k input token workload. Results for other workloads are historical and no longer updated.
DeepSeek has launched a newer model, DeepSeek V3 0324. We suggest considering it instead.
For more information, see comparison of DeepSeek V3 0324 to other models and API provider benchmarks for DeepSeek V3 0324.
DeepSeek R1 Distill Llama 70B Benchmarking e análise de provedores de API
Esta análise ajuda você a escolher o melhor provedor de API de DeepSeek R1 Distill Llama 70B para seu caso de uso.
Mais rápido
DeepInfraVelocidade de saída
2 provedores no total
Menor latência
DeepInfraTempo até o primeiro token da resposta final
2 provedores no total
Menor preço
DeepInfra
SambaNovaPreço combinado (por 1M de tokens)
2 provedores no total
DeepSeek R1 Distill Llama 70B está disponível em 2 provedores de API, cada um com características de desempenho e preços diferentes. Veja abaixo uma comparação das principais métricas entre os provedores.
- Em velocidade de saída, os principais provedores são DeepInfra (24.9 t/s).
- Em latência, DeepInfra (81.23s) têm o menor tempo até o primeiro token da resposta final.
- Em preço, DeepInfra (0.71) e SambaNova (0.77) têm os menores preços combinados por 1M de tokens.
- DeepInfra se destaca na liderança geral, ocupando o primeiro lugar nas três categorias: velocidade, latência e preço.
Destaques
Preços
Pricing: Cache Hit, Input, and Output
Pricing: Blended Price
Output Speed vs. Price
Velocidade
Medida pela velocidade de saída (tokens por segundo)
Output Speed: DeepSeek R1 Distill Llama 70B
Latency vs. Output Speed
Latência
Medida pelo tempo (segundos) até o primeiro token
Tempo até o primeiro token da resposta final
Tempo de resposta de ponta a ponta
Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed
Tempo de resposta de ponta a ponta
Principais métricas de comparação e recursos da API
Perguntas frequentes
Perguntas comuns sobre os provedores do DeepSeek R1 Distill Llama 70B
Atualmente, o DeepSeek R1 Distill Llama 70B está disponível em 2 provedores de API que avaliamos e acompanhamos.
O provedor mais rápido para o DeepSeek R1 Distill Llama 70B em velocidade de saída é DeepInfra (24.9 t/s). A velocidade de saída mede a rapidez com que os tokens são gerados depois que o modelo começa a responder.
O provedor com o menor tempo até o primeiro token da resposta final para o DeepSeek R1 Distill Llama 70B é DeepInfra (81.23s). Uma latência menor significa um tempo de resposta inicial mais rápido.
1 de 2 provedores são compatíveis com o modo JSON para o DeepSeek R1 Distill Llama 70B: DeepInfra.
1 de 2 provedores são compatíveis com chamadas de funções para o DeepSeek R1 Distill Llama 70B: DeepInfra.
DeepInfra lidera em todas as principais métricas do DeepSeek R1 Distill Llama 70B, com a maior velocidade, a menor latência e o preço mais competitivo.
Ao escolher um provedor para o DeepSeek R1 Distill Llama 70B, considere a velocidade de saída (para tarefas que exigem alta vazão), a latência (para aplicações interativas que precisam de respostas iniciais rápidas), o preço (para cargas de trabalho atentas aos custos) e os recursos da API, como modo JSON e chamadas de funções.
Sim. O desempenho dos provedores pode variar ao longo do tempo devido a mudanças na infraestrutura, balanceamento de carga e atualizações. Avaliamos continuamente todos os provedores e exibimos as tendências históricas de desempenho nos gráficos de evolução ao longo do tempo.
Para saber mais sobre a inteligência, as capacidades e as modalidades do DeepSeek R1 Distill Llama 70B, além de como ele se compara a outros modelos, consulte a página de visão geral do modelo. Ver visão geral do modelo