Hy3のAPIプロバイダーを、遅延(最初のトークンまでの時間)、出力速度(1秒あたりの出力トークン数)、料金などの性能指標で分析します。ベンチマーク対象のAPIプロバイダーにはSiliconFlow (FP8)、Novita、DeepInfra (FP8)、GMIが含まれます。
最速
出力速度
プロバイダー合計:4社
最短の遅延
最初の回答トークンまでの時間
プロバイダー合計:4社
最安料金
ブレンド料金(100万トークンあたり)
プロバイダー合計:4社
Hy3は4社のAPIプロバイダーで利用でき、性能特性と料金はそれぞれ異なります。以下でプロバイダー間の主要指標を比較します。
- 出力速度の上位プロバイダーはGMI(72.7 t/s)、SiliconFlow (FP8)(68.5 t/s)、Novita(63.9 t/s)です。
- 遅延では、GMI(30.73秒)、SiliconFlow (FP8)(32.00秒)、DeepInfra (FP8)(33.43秒)の最初の回答トークンまでの時間が最短です。
- 料金では、GMI(0.10)、SiliconFlow (FP8)(0.10)、Novita(0.11)の100万トークンあたりのブレンド料金が最安です。
- GMIは速度、遅延、料金の3カテゴリすべてで首位となり、総合トップです。
ハイライト
更新:本番環境のユースケースをより適切に反映するため、性能ベンチマークのデフォルトワークロードを入力10kトークンに変更しました。上部で別のワークロードを引き続き選択できます。
料金
Pricing: Cache Hit, Input, and Output
Pricing: Blended Price
Pricing: Cache Discount
Output Speed vs. Price
速度
出力速度(1秒あたりのトークン数)で測定
Output Speed: Hy3
Latency vs. Output Speed
遅延
最初のトークンまでの時間(秒)で測定
最初の回答トークンまでの時間:Hy3のプロバイダー
エンドツーエンド応答時間
Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed
エンドツーエンド応答時間:Hy3のプロバイダー
主要な比較指標とAPI機能
よくある質問
Hy3のプロバイダーに関するよくある質問
Hy3は4社のAPIプロバイダーで利用できます:SiliconFlow (FP8)、Novita、DeepInfra (FP8)、GMI。性能特性と料金はプロバイダーごとに異なります。
現在、ベンチマークと追跡の対象となる4社のAPIプロバイダーでHy3を利用できます。
出力速度でHy3が最速のプロバイダーはGMI(72.7 t/s)、SiliconFlow (FP8)(68.5 t/s)、Novita(63.9 t/s)です。出力速度は、モデルが応答を開始した後にトークンを生成する速さを表します。
Hy3の最初の回答トークンまでの時間が最短のプロバイダーはGMI(30.73s)、SiliconFlow (FP8)(32.00s)、DeepInfra (FP8)(33.43s)です。遅延が短いほど、最初の応答が速くなります。
ブレンド料金でHy3が最安のプロバイダーはGMI(100万トークンあたり$0.10)、SiliconFlow (FP8)(100万トークンあたり$0.10)、Novita(100万トークンあたり$0.11)です。ブレンド料金では、キャッシュヒット/入力/出力トークンを7:2:1とします。
Hy3の入力トークン料金が最安のプロバイダーはGMI(入力100万トークンあたり$0.13)、SiliconFlow (FP8)(入力100万トークンあたり$0.13)、Novita(入力100万トークンあたり$0.14)です。
Hy3の出力トークン料金が最安のプロバイダーはSiliconFlow (FP8)(出力100万トークンあたり$0.53)、GMI(出力100万トークンあたり$0.53)、Novita(出力100万トークンあたり$0.58)です。
4社中2社のプロバイダーがHy3のJSONモードに対応しています:DeepInfra (FP8)、GMI。
Hy3を提供する4社すべてが、関数呼び出し(ツール利用)に対応しています。
GMIはHy3の主要指標すべてで首位となり、出力速度が最も速く、遅延が最も短く、料金の競争力も最も優れています。
Hy3のプロバイダーを選ぶ際は、出力速度(高スループットが必要なタスク)、遅延(最初の応答の速さが必要な対話型アプリケーション)、料金(費用を重視するワークロード)、JSONモードや関数呼び出しなどのAPI機能を検討してください。
はい。インフラストラクチャの変更、負荷分散、アップデートにより、プロバイダーの性能は時間とともに変化する場合があります。すべてのプロバイダーを継続的にベンチマークし、「推移」グラフに過去の性能傾向を表示しています。
Hy3の知能、能力、モダリティ、他のモデルとの比較については、モデル概要ページをご覧ください。 モデル概要を表示