このモデルは非推奨です。デフォルトの入力トークン数1万のワークロードでのみ性能測定を継続しています。他のワークロードの結果は過去のデータであり、更新されません。
この分析は、ユースケースに最適なGPT-4 TurboのAPIプロバイダーを選ぶための参考情報です。
最速
出力速度
プロバイダー合計:2社
最短の遅延
最初のトークンまでの時間
プロバイダー合計:2社
最安料金
ブレンド料金(100万トークンあたり)
プロバイダー合計:2社
GPT-4 Turboは2社のAPIプロバイダーで利用でき、性能特性と料金はそれぞれ異なります。以下でプロバイダー間の主要指標を比較します。
- 出力速度の上位プロバイダーはAzure(116.7 t/s)、OpenAI(32.6 t/s)です。
- 遅延では、Azure(1.60秒)、OpenAI(3.33秒)の最初のトークンまでの時間が最短です。
- 料金では、Azure(12.00)、OpenAI(12.00)の100万トークンあたりのブレンド料金が最安です。
- Azureは速度、遅延、料金の3カテゴリすべてで首位となり、総合トップです。
料金
料金:キャッシュヒット・入力・出力
料金:ブレンド料金
出力速度と料金
速度
出力速度(1秒あたりのトークン数)で測定
出力速度: GPT-4 Turbo
遅延と出力速度
遅延
最初のトークンまでの時間(秒)で測定
最初のトークンまでの時間
エンドツーエンド応答時間
Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed
エンドツーエンド応答時間
主要な比較指標とAPI機能
よくある質問
GPT-4 Turboのプロバイダーに関するよくある質問
現在、ベンチマークと追跡の対象となる2社のAPIプロバイダーでGPT-4 Turboを利用できます。
GPT-4 Turboを提供する2社すべてが、構造化出力のJSONモードに対応しています。
GPT-4 Turboを提供する2社すべてが、関数呼び出し(ツール利用)に対応しています。
AzureはGPT-4 Turboの主要指標すべてで首位となり、出力速度が最も速く、遅延が最も短く、料金の競争力も最も優れています。
GPT-4 Turboのプロバイダーを選ぶ際は、出力速度(高スループットが必要なタスク)、遅延(最初の応答の速さが必要な対話型アプリケーション)、料金(費用を重視するワークロード)、JSONモードや関数呼び出しなどのAPI機能を検討してください。
はい。インフラストラクチャの変更、負荷分散、アップデートにより、プロバイダーの性能は時間とともに変化する場合があります。すべてのプロバイダーを継続的にベンチマークし、「推移」グラフに過去の性能傾向を表示しています。
GPT-4 Turboの知能、能力、モダリティ、他のモデルとの比較については、モデル概要ページをご覧ください。 モデル概要を表示