This model is deprecated. We only continue performance benchmarking for the default 10k input token workload. Results for other workloads are historical and no longer updated.

Alibaba has launched a newer release, Qwen3 235B A22B. We suggest considering it instead.

•

Open weights model

•

Released septiembre de 2024

Qwen2.5 Instruct 72B Benchmarks y análisis de proveedores de API

Comparación de modelos

Este análisis está pensado para ayudarte a elegir el mejor proveedor de API de Qwen2.5 Instruct 72B para tu caso de uso.

Más rápido

#1
SiliconFlow (FP8)SiliconFlow (FP8)
32.3 t/s
#2
DeepInfraDeepInfra
25.0 t/s

Velocidad de salida

2 proveedores en total

Menor latencia

#1
DeepInfraDeepInfra
2.30 s
#2
SiliconFlow (FP8)SiliconFlow (FP8)
4.29 s

Tiempo hasta el primer token

2 proveedores en total

Menor precio

#1
DeepInfraDeepInfra
$0.36
#2
SiliconFlow (FP8)SiliconFlow (FP8)
$0.59

Precio combinado (por 1M de tokens)

2 proveedores en total

Qwen2.5 72B está disponible a través de 2 proveedores de API, cada uno con distintas características de rendimiento y precios. A continuación se comparan las métricas clave entre proveedores.

  • En velocidad de salida, los principales proveedores son SiliconFlow (FP8) (32.3 t/s) y DeepInfra (25.0 t/s).
  • En latencia, DeepInfra (2.30s) y SiliconFlow (FP8) (4.29s) ofrecen el menor tiempo hasta el primer token.
  • En precios, DeepInfra (0.36) y SiliconFlow (FP8) (0.59) ofrecen los menores precios combinados por 1M de tokens.
  • DeepInfra ofrece la menor latencia y los mejores precios, lo que lo hace atractivo para aplicaciones sensibles al costo. SiliconFlow (FP8) es la opción más rápida para cargas de trabajo intensivas en rendimiento.

Aspectos destacados

Output tokens per second · Higher is better
Seconds to first answer token received · Lower is better
USD per 1M tokens (blended) · Lower is better

Precios

Pricing: Cache Hit, Input, and Output

Price (USD per M Tokens) · Lower is better · 10,000 input tokens

Pricing: Blended Price

Blended at 7:2:1 (cache-input-output) · USD per 1M tokens (blended) · Lower is better

Output Speed vs. Price

Blended at 7:2:1 (cache-input-output) · Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant
Pareto line

Velocidad

Medida por la velocidad de salida (tokens por segundo)

Output Speed: Qwen2.5 Instruct 72B

Output speed: output tokens per second · 10,000 input tokens

Latency vs. Output Speed

Latency: seconds to first token received · Output speed: output tokens per second · 10,000 input tokens
Most attractive quadrant
Pareto line

Latencia

Medida por el tiempo (segundos) hasta el primer token

Tiempo hasta el primer token

Seconds to first token received · Lower is better · 10,000 input tokens

Tiempo de respuesta de extremo a extremo

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

Tiempo de respuesta de extremo a extremo

Seconds to output 500 tokens, including reasoning model 'thinking' time · Lower is better · 10,000 input tokens

Métricas clave de comparación y funciones de API

Logo de SiliconFlowSiliconFlow
32k
Abierto
--
32
4.27
19.82
--
Logo de DeepInfraDeepInfra
32.8k
Abierto
--
25
2.25
22.27
--

Preguntas frecuentes

Preguntas comunes sobre los proveedores de Qwen2.5 Instruct 72B