gpt-oss-20b (high)のAPIプロバイダーを、遅延(最初のトークンまでの時間)、出力速度(1秒あたりの出力トークン数)、料金などの性能指標で分析します。ベンチマーク対象のAPIプロバイダーにはCoreWeave、Amazon Bedrock、DeepInfra、Hyperbolic、Lightning AI、Cloudflare、Novita、Google Vertex、Databricks、Groq、Clarifaiが含まれます。
最速
出力速度
プロバイダー合計:11社
最短の遅延
最初の回答トークンまでの時間
プロバイダー合計:11社
最安料金
ブレンド料金(100万トークンあたり)
プロバイダー合計:11社
gpt-oss-20b (high)は11社のAPIプロバイダーで利用でき、性能特性と料金はそれぞれ異なります。以下でプロバイダー間の主要指標を比較します。
- 出力速度の上位プロバイダーはGroq(928.1 t/s)、Databricks(311.8 t/s)、Google Vertex(307.6 t/s)です。 プロバイダー間の速度差は大きく、最速と最遅で1446%の差があります。
- 遅延では、Groq(2.96秒)、Databricks(7.35秒)、Lightning AI(8.04秒)の最初の回答トークンまでの時間が最短です。
- 料金では、CoreWeave(0.04)、DeepInfra(0.04)、Novita(0.05)の100万トークンあたりのブレンド料金が最安です。 プロバイダー間で料金に最大5.3倍の差があります。
- Groqは出力速度が最も速く、遅延も最短で、性能が最も優れています。費用を最適化するなら、CoreWeaveの料金が最も競争力に優れています。
ハイライト
更新:本番環境のユースケースをより適切に反映するため、性能ベンチマークのデフォルトワークロードを入力10kトークンに変更しました。上部で別のワークロードを引き続き選択できます。
料金
Pricing: Cache Hit, Input, and Output
Pricing: Blended Price
Output Speed vs. Price
速度
出力速度(1秒あたりのトークン数)で測定
Output Speed: gpt-oss-20b (high)
Latency vs. Output Speed
遅延
最初のトークンまでの時間(秒)で測定
最初の回答トークンまでの時間:gpt-oss-20b (high)のプロバイダー
エンドツーエンド応答時間
Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed
エンドツーエンド応答時間:gpt-oss-20b (high)のプロバイダー
主要な比較指標とAPI機能
131k | オープン | $0.01 | 125 | 0.89 | 20.95 | 16.05 | |||
131k | オープン | $0.03 | 184 | 30.67 | 44.24 | 10.85 | |||
131k | オープン | $0.01 | 107 | 0.51 | 23.93 | 18.74 | |||
131k | オープン | $0.04 | -- | -- | -- | -- | |||
128k | オープン | $0.02 | 273 | 0.71 | 9.87 | 7.33 | |||
128k | オープン | $0.08 | 143 | 0.75 | 18.17 | 13.94 | |||
131k | オープン | $0.02 | 60 | 1.08 | 42.72 | 33.31 | |||
131k | オープン | $0.03 | 308 | 3.38 | 11.51 | 6.50 | |||
131k | オープン | $0.03 | 312 | 0.93 | 8.95 | 6.41 | |||
131k | オープン | $0.03 | 928 | 0.80 | 3.50 | 2.15 | |||
131k | オープン | $0.02 | -- | -- | -- | -- | |||
よくある質問
gpt-oss-20b (high)のプロバイダーに関するよくある質問
gpt-oss-20b (high)は11社のAPIプロバイダーで利用できます:CoreWeave、Amazon、DeepInfra、Hyperbolic、Lightning AI、Cloudflare、Novita、Google Vertex、Databricks、Groq、Clarifai。性能特性と料金はプロバイダーごとに異なります。
現在、ベンチマークと追跡の対象となる11社のAPIプロバイダーでgpt-oss-20b (high)を利用できます。
出力速度でgpt-oss-20b (high)が最速のプロバイダーはGroq(928.1 t/s)、Databricks(311.8 t/s)、Google Vertex(307.6 t/s)です。出力速度は、モデルが応答を開始した後にトークンを生成する速さを表します。
gpt-oss-20b (high)の最初の回答トークンまでの時間が最短のプロバイダーはGroq(2.96s)、Databricks(7.35s)、Lightning AI(8.04s)です。遅延が短いほど、最初の応答が速くなります。
gpt-oss-20b (high)の出力トークン料金が最安のプロバイダーはHyperbolic(出力100万トークンあたり$0.10)、CoreWeave(出力100万トークンあたり$0.13)、DeepInfra(出力100万トークンあたり$0.14)です。
gpt-oss-20b (high)の料金はプロバイダー間で最大5.3倍異なります。最安はCoreWeaveの100万トークンあたり$0.04で、Cloudflareは100万トークンあたり$0.21です。
gpt-oss-20b (high)を提供する11社すべてが、構造化出力のJSONモードに対応しています。
11社中9社のプロバイダーがgpt-oss-20b (high)の関数呼び出しに対応しています:CoreWeave、Amazon、DeepInfra、Lightning AI、Cloudflare、Google Vertex、Databricks、Groq、Clarifai。
gpt-oss-20b (high)のプロバイダーを選ぶ際は、出力速度(高スループットが必要なタスク)、遅延(最初の応答の速さが必要な対話型アプリケーション)、料金(費用を重視するワークロード)、JSONモードや関数呼び出しなどのAPI機能を検討してください。
はい。インフラストラクチャの変更、負荷分散、アップデートにより、プロバイダーの性能は時間とともに変化する場合があります。すべてのプロバイダーを継続的にベンチマークし、「推移」グラフに過去の性能傾向を表示しています。
gpt-oss-20b (high)の知能、能力、モダリティ、他のモデルとの比較については、モデル概要ページをご覧ください。 モデル概要を表示