このモデルは非推奨です。デフォルトの入力トークン数1万のワークロードでのみ性能測定を継続しています。他のワークロードの結果は過去のデータであり、更新されません。
NVIDIAは新しいリリースであるNemotron 3.5 Super VLを公開しています。こちらの利用をご検討ください。
Nemotron 3 Super 120B A12B (Reasoning) APIプロバイダーのベンチマークと分析
この分析は、ユースケースに最適なNemotron 3 Super 120B A12B (Reasoning)のAPIプロバイダーを選ぶための参考情報です。
最速
出力速度
プロバイダー合計:3社
最短の遅延
最初の回答トークンまでの時間
プロバイダー合計:3社
最安料金
ブレンド料金(100万トークンあたり)
プロバイダー合計:3社
Nemotron 3 Superは3社のAPIプロバイダーで利用でき、性能特性と料金はそれぞれ異なります。以下でプロバイダー間の主要指標を比較します。
- 出力速度の上位プロバイダーはNebius(183.2 t/s)、Crusoe (FP8)(178.5 t/s)、DeepInfra(68.5 t/s)です。
- 遅延では、Crusoe (FP8)(11.80秒)、Nebius(12.27秒)、DeepInfra(40.10秒)の最初の回答トークンまでの時間が最短です。
- 料金では、DeepInfra(0.12)、Nebius(0.19)、Crusoe (FP8)(0.40)の100万トークンあたりのブレンド料金が最安です。
料金
料金:キャッシュヒット・入力・出力
Intelligence Index タスクあたりのコスト
出力速度と料金
速度
出力速度(1秒あたりのトークン数)で測定
出力速度: Nemotron 3 Super 120B A12B (Reasoning)
Intelligence Indexのタスクあたりの時間
タスクあたりの費用とタスクあたりの時間
遅延
最初のトークンまでの時間(秒)で測定
最初の回答トークンまでの時間
キャッシュ動作
キャッシュヒット率
タスクあたりのコストとキャッシュヒット率
エンドツーエンド応答時間
Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed
エンドツーエンド応答時間
主要な比較指標とAPI機能
よくある質問
Nemotron 3 Super 120B A12B (Reasoning)のプロバイダーに関するよくある質問
Nemotron 3 Super 120B A12B (Reasoning)は3社のAPIプロバイダーで利用できます:Crusoe (FP8)、Nebius、DeepInfra。性能特性と料金はプロバイダーごとに異なります。
現在、ベンチマークと追跡の対象となる3社のAPIプロバイダーでNemotron 3 Super 120B A12B (Reasoning)を利用できます。
出力速度でNemotron 3 Super 120B A12B (Reasoning)が最速のプロバイダーはNebius(183.2 t/s)、Crusoe (FP8)(178.5 t/s)、DeepInfra(68.5 t/s)です。出力速度は、モデルが応答を開始した後にトークンを生成する速さを表します。
Nemotron 3 Super 120B A12B (Reasoning)の最初の回答トークンまでの時間が最短のプロバイダーはCrusoe (FP8)(11.80s)、Nebius(12.27s)、DeepInfra(40.10s)です。遅延が短いほど、最初の応答が速くなります。
ブレンド料金でNemotron 3 Super 120B A12B (Reasoning)が最安のプロバイダーはDeepInfra(100万トークンあたり$0.12)、Nebius(100万トークンあたり$0.19)、Crusoe (FP8)(100万トークンあたり$0.40)です。ブレンド料金では、キャッシュヒット/入力/出力トークンを7:2:1とします。
Nemotron 3 Super 120B A12B (Reasoning)の入力トークン料金が最安のプロバイダーはDeepInfra(入力100万トークンあたり$0.09)、Crusoe (FP8)(入力100万トークンあたり$0.30)、Nebius(入力100万トークンあたり$0.30)です。
Nemotron 3 Super 120B A12B (Reasoning)の出力トークン料金が最安のプロバイダーはDeepInfra(出力100万トークンあたり$0.40)、Nebius(出力100万トークンあたり$0.90)、Crusoe (FP8)(出力100万トークンあたり$2.40)です。
Nemotron 3 Super 120B A12B (Reasoning)の料金はプロバイダー間で最大3.5倍異なります。最安はDeepInfraの100万トークンあたり$0.12で、Crusoe (FP8)は100万トークンあたり$0.40です。
Nemotron 3 Super 120B A12B (Reasoning)を提供する3社すべてが、構造化出力のJSONモードに対応しています。
Nemotron 3 Super 120B A12B (Reasoning)を提供する3社すべてが、関数呼び出し(ツール利用)に対応しています。
Nemotron 3 Super 120B A12B (Reasoning)に最適なプロバイダーは、優先事項によって異なります。Nebiusは出力速度が最も速く、Crusoe (FP8)は遅延が最も短く、DeepInfraは料金の競争力が最も優れています。
Nemotron 3 Super 120B A12B (Reasoning)のプロバイダーを選ぶ際は、出力速度(高スループットが必要なタスク)、遅延(最初の応答の速さが必要な対話型アプリケーション)、料金(費用を重視するワークロード)、JSONモードや関数呼び出しなどのAPI機能を検討してください。
はい。インフラストラクチャの変更、負荷分散、アップデートにより、プロバイダーの性能は時間とともに変化する場合があります。すべてのプロバイダーを継続的にベンチマークし、「推移」グラフに過去の性能傾向を表示しています。
Nemotron 3 Super 120B A12B (Reasoning)の知能、能力、モダリティ、他のモデルとの比較については、モデル概要ページをご覧ください。 モデル概要を表示