This model is deprecated. We only continue performance benchmarking for the default 10k input token workload. Results for other workloads are historical and no longer updated.

Alibaba has launched a newer model, Qwen3 235B (Non-reasoning). We suggest considering it instead.

For more information, see comparison of Qwen3 235B (Non-reasoning) to other models and API provider benchmarks for Qwen3 235B (Non-reasoning).

Open weights model

Released 2024年9月

Qwen2.5 Instruct 72B APIプロバイダーのベンチマークと分析

モデル比較

この分析は、ユースケースに最適なQwen2.5 Instruct 72BのAPIプロバイダーを選ぶための参考情報です。

最速

#1
DeepInfraDeepInfra
28.8 t/s
#2
SiliconFlow (FP8)SiliconFlow (FP8)
24.4 t/s

出力速度

プロバイダー合計:2社

最短の遅延

#1
DeepInfraDeepInfra
2.33 s
#2
SiliconFlow (FP8)SiliconFlow (FP8)
4.36 s

最初のトークンまでの時間

プロバイダー合計:2社

最安料金

#1
DeepInfraDeepInfra
$0.20
#2
SiliconFlow (FP8)SiliconFlow (FP8)
$0.59

ブレンド料金(100万トークンあたり)

プロバイダー合計:2社

Qwen2.5 72Bは2社のAPIプロバイダーで利用でき、性能特性と料金はそれぞれ異なります。以下でプロバイダー間の主要指標を比較します。

  • 出力速度の上位プロバイダーはDeepInfra(28.8 t/s)、SiliconFlow (FP8)(24.4 t/s)です。
  • 遅延では、DeepInfra(2.33秒)、SiliconFlow (FP8)(4.36秒)の最初のトークンまでの時間が最短です。
  • 料金では、DeepInfra(0.20)、SiliconFlow (FP8)(0.59)の100万トークンあたりのブレンド料金が最安です。
  • DeepInfraは速度、遅延、料金の3カテゴリすべてで首位となり、総合トップです。

ハイライト

Output tokens per second · Higher is better
Seconds · Lower is better
USD per 1M tokens (blended) · Lower is better

料金

Pricing: Cache Hit, Input, and Output

Price (USD per M Tokens) · Lower is better · 10,000 input tokens

Pricing: Blended Price

Blended at 7:2:1 (cache-input-output) · USD per 1M tokens (blended) · Lower is better

Pricing: Cache Discount

1 - (cache hit price / input price) · Higher is better

Output Speed vs. Price

Blended at 7:2:1 (cache-input-output) · Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant

速度

出力速度(1秒あたりのトークン数)で測定

Output Speed: Qwen2.5 Instruct 72B

Output speed: output tokens per second · 10,000 input tokens

Latency vs. Output Speed

Latency: seconds to first token received · Output speed: output tokens per second · 10,000 input tokens
Most attractive quadrant

遅延

最初のトークンまでの時間(秒)で測定

最初のトークンまでの時間

Seconds to first token received · Lower is better · 10,000 input tokens

エンドツーエンド応答時間

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

エンドツーエンド応答時間

Seconds to output 500 tokens, including reasoning model 'thinking' time · Lower is better · 10,000 input tokens

主要な比較指標とAPI機能

SiliconFlowのロゴSiliconFlow
32k
オープン
--
24
4.36
24.86
--
DeepInfraのロゴDeepInfra
32.8k
オープン
--
29
2.33
19.68
--

よくある質問

Qwen2.5 Instruct 72Bのプロバイダーに関するよくある質問