Este modelo está obsoleto. Continuamos medindo o desempenho apenas para a carga padrão de 10 mil tokens de entrada. Os resultados de outras cargas são históricos e não são mais atualizados.

Alibaba lançou uma versão mais recente, Qwen3 235B A22B. Sugerimos considerá-la como alternativa.

•

Open weights model

•

Released setembro de 2024

Qwen2.5 Instruct 72B Benchmarking e análise de provedores de API

Comparação de modelos

Esta análise ajuda você a escolher o melhor provedor de API de Qwen2.5 Instruct 72B para seu caso de uso.

Mais rápido

#1
SiliconFlow (FP8)SiliconFlow (FP8)
28.6 t/s
#2
DeepInfraDeepInfra
27.7 t/s

Velocidade de saída

2 provedores no total

Menor latência

#1
DeepInfraDeepInfra
2.41 s
#2
SiliconFlow (FP8)SiliconFlow (FP8)
4.18 s

Tempo até o primeiro token

2 provedores no total

Menor preço

#1
DeepInfraDeepInfra
$0.36
#2
SiliconFlow (FP8)SiliconFlow (FP8)
$0.59

Preço combinado (por 1M de tokens)

2 provedores no total

Qwen2.5 72B está disponível em 2 provedores de API, cada um com características de desempenho e preços diferentes. Veja abaixo uma comparação das principais métricas entre os provedores.

  • Em velocidade de saída, os principais provedores são SiliconFlow (FP8) (28.6 t/s) e DeepInfra (27.7 t/s).
  • Em latência, DeepInfra (2.41s) e SiliconFlow (FP8) (4.18s) têm o menor tempo até o primeiro token.
  • Em preço, DeepInfra (0.36) e SiliconFlow (FP8) (0.59) têm os menores preços combinados por 1M de tokens.
  • DeepInfra oferece a menor latência e o melhor preço, sendo uma opção atraente para aplicações atentas aos custos. SiliconFlow (FP8) é a opção mais rápida para cargas de trabalho que exigem alta vazão.
Output tokens per second · Higher is better
Seconds to first answer token received · Lower is better
USD per 1M tokens (blended) · Lower is better

Preços

Preços: acertos de cache, entrada e saída

Price (USD per M Tokens) · Lower is better · 10,000 input tokens

Preços: Preço combinado

Blended at 7:2:1 (cache-input-output) · USD per 1M tokens (blended) · Lower is better

Velocidade de saída vs. preço

Blended at 7:2:1 (cache-input-output) · Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant
Pareto line

Velocidade

Medida pela velocidade de saída (tokens por segundo)

Velocidade de saída: Qwen2.5 Instruct 72B

Velocidade de saída: tokens de saída por segundo · 10,000 input tokens

Latência vs. velocidade de saída

Latency: seconds to first token received · Output speed: output tokens per second · 10,000 input tokens
Most attractive quadrant
Pareto line

Latência

Medida pelo tempo (segundos) até o primeiro token

Tempo até o primeiro token

Seconds to first token received · Lower is better · 10,000 input tokens

Tempo de resposta de ponta a ponta

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

Tempo de resposta de ponta a ponta

Seconds to output 500 tokens, including reasoning model 'thinking' time · Lower is better · 10,000 input tokens

Principais métricas de comparação e recursos da API

Logo: SiliconFlowSiliconFlow
32k
Aberto
--
28
4.18
22.23
--
Logo: DeepInfraDeepInfra
32.8k
Aberto
--
26
2.38
21.90
--

Perguntas frequentes

Perguntas comuns sobre os provedores do Qwen2.5 Instruct 72B