gpt-oss-120b (High) APIプロバイダーのベンチマークと分析
この分析は、ユースケースに最適なgpt-oss-120b (High)のAPIプロバイダーを選ぶための参考情報です。
最速
出力速度
プロバイダー合計:18社
最短の遅延
最初の回答トークンまでの時間
プロバイダー合計:18社
最安料金
ブレンド料金(100万トークンあたり)
プロバイダー合計:18社
gpt-oss-120b (high)は18社のAPIプロバイダーで利用でき、性能特性と料金はそれぞれ異なります。以下でプロバイダー間の主要指標を比較します。
- 出力速度の上位プロバイダーはCerebras(1,720.2 t/s)、SambaNova(706.4 t/s)、Groq(473.2 t/s)です。 プロバイダー間の速度差は大きく、最速と最遅で4037%の差があります。
- 遅延では、Cerebras(1.60秒)、SambaNova(3.97秒)、Groq(4.95秒)の最初の回答トークンまでの時間が最短です。
- 料金では、CoreWeave(0.04)、DeepInfra(0.05)、Crusoe(0.07)の100万トークンあたりのブレンド料金が最安です。 プロバイダー間で料金に最大8.9倍の差があります。
- Cerebrasは出力速度が最も速く、遅延も最短で、性能が最も優れています。費用を最適化するなら、CoreWeaveの料金が最も競争力に優れています。
更新:本番環境のユースケースをより適切に反映するため、性能ベンチマークのデフォルトワークロードを入力10kトークンに変更しました。上部で別のワークロードを引き続き選択できます。
エンドポイント精度
Endpoint Accuracy Index: gpt-oss-120b (High)
料金
料金:キャッシュヒット・入力・出力
料金:ブレンド料金
料金:キャッシュ割引
出力速度と料金
速度
出力速度(1秒あたりのトークン数)で測定
出力速度: gpt-oss-120b (High)
遅延と出力速度
遅延
最初のトークンまでの時間(秒)で測定
最初の回答トークンまでの時間
エンドツーエンド応答時間
Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed
エンドツーエンド応答時間
主要な比較指標とAPI機能
86% | 131k | オープン | -- | 471 | 0.71 | 6.02 | 4.24 | |||
70% | 116k | オープン | $0.23 | -- | -- | -- | -- | |||
97% | 128k | オープン | $0.12 | 100 | 1.39 | 26.29 | 19.92 | |||
98% | 131k | オープン | $0.02 | 43 | 1.22 | 59.44 | 46.57 | |||
93% | 131k | オープン | $0.11 | 314 | 0.71 | 8.66 | 6.36 | |||
91% | 131k | オープン | $0.04 | 184 | 1.30 | 14.89 | 10.88 | |||
84% | 131k | オープン | $0.11 | 277 | 0.81 | 9.83 | 7.21 | |||
97% | 131k | オープン | $0.03 | 51 | 0.60 | 49.98 | 39.51 | |||
87% | 131k | オープン | $0.23 | 1,781 | 0.43 | 1.84 | 1.12 | |||
72% | 131k | オープン | $0.06 | 40 | 38.59 | 100.33 | 49.39 | |||
該当なし | 131k | オープン | $0.04 | 205 | 0.39 | 12.56 | 9.73 | |||
該当なし | 128k | オープン | $0.07 | 188 | 0.21 | 13.49 | 10.62 | |||
98% | 131k | オープン | $0.15 | 709 | 1.12 | 4.65 | 2.82 | |||
98% | 131k | オープン | $0.06 | 148 | 0.80 | 17.75 | 13.56 | |||
97% | 128k | オープン | $0.11 | 240 | 1.01 | 11.44 | 8.34 | |||
該当なし | 131k | オープン | $0.19 | -- | -- | -- | -- | |||
101% | 131k | オープン | $0.11 | 86 | 1.03 | 30.10 | 23.26 | |||
77% | 131k | オープン | $0.11 | 116 | 0.41 | 22.00 | 17.28 | |||
よくある質問
gpt-oss-120b (High)のプロバイダーに関するよくある質問
gpt-oss-120b (High)は18社のAPIプロバイダーで利用できます:Groq、Cloudflare、Scaleway、CoreWeave、Azure、Novita、DeepInfra (Turbo)、DeepInfra、Cerebras、Google Vertex、Crusoe、Baseten、SambaNova、Parasail、Nebius (Base)、Hyperbolic、Amazon、Together AI。性能特性と料金はプロバイダーごとに異なります。
現在、ベンチマークと追跡の対象となる18社のAPIプロバイダーでgpt-oss-120b (High)を利用できます。
gpt-oss-120b (High)の料金はプロバイダー間で最大8.9倍異なります。最安はCoreWeaveの100万トークンあたり$0.04で、Cloudflareは100万トークンあたり$0.39です。
gpt-oss-120b (High)を提供する18社すべてが、構造化出力のJSONモードに対応しています。
gpt-oss-120b (High)を提供する18社すべてが、関数呼び出し(ツール利用)に対応しています。
gpt-oss-120b (High)のプロバイダーを選ぶ際は、出力速度(高スループットが必要なタスク)、遅延(最初の応答の速さが必要な対話型アプリケーション)、料金(費用を重視するワークロード)、JSONモードや関数呼び出しなどのAPI機能を検討してください。
はい。インフラストラクチャの変更、負荷分散、アップデートにより、プロバイダーの性能は時間とともに変化する場合があります。すべてのプロバイダーを継続的にベンチマークし、「推移」グラフに過去の性能傾向を表示しています。
gpt-oss-120b (High)の知能、能力、モダリティ、他のモデルとの比較については、モデル概要ページをご覧ください。 モデル概要を表示