このモデルは非推奨です。デフォルトの入力トークン数1万のワークロードでのみ性能測定を継続しています。他のワークロードの結果は過去のデータであり、更新されません。
IBMは新しいリリースであるGranite 4.0 Microを公開しています。こちらの利用をご検討ください。
この分析は、ユースケースに最適なGranite 3.3 8B (Non-reasoning)のAPIプロバイダーを選ぶための参考情報です。
最速
Replicate出力速度
プロバイダー合計：1社
最短の遅延
Replicate最初のトークンまでの時間
プロバイダー合計：1社
最安料金
Replicateブレンド料金（100万トークンあたり）
プロバイダー合計：1社
Granite 3.3 8B (non-reasoning)はReplicateで利用できます。
料金
料金：キャッシュヒット・入力・出力
料金：ブレンド料金
出力速度と料金
速度
出力速度（1秒あたりのトークン数）で測定
出力速度: Granite 3.3 8B (Non-reasoning)
遅延と出力速度
遅延
最初のトークンまでの時間（秒）で測定
最初のトークンまでの時間
エンドツーエンド応答時間
Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed
エンドツーエンド応答時間
主要な比較指標とAPI機能
| Replicate | 128k | オープン | -- | 10 | 42.14 | 91.25 | -- | ||
よくある質問
Granite 3.3 8B (Non-reasoning)のプロバイダーに関するよくある質問
Granite 3.3 8B (Non-reasoning)は1社のAPIプロバイダーで利用できます：Replicate。性能特性と料金はプロバイダーごとに異なります。
現在、ベンチマークと追跡の対象となる1社のAPIプロバイダーでGranite 3.3 8B (Non-reasoning)を利用できます。
出力速度でGranite 3.3 8B (Non-reasoning)が最速のプロバイダーはReplicate（44.4 t/s）です。出力速度は、モデルが応答を開始した後にトークンを生成する速さを表します。
Granite 3.3 8B (Non-reasoning)の最初のトークンまでの時間が最短のプロバイダーはReplicate（9.45s）です。遅延が短いほど、最初の応答が速くなります。
ブレンド料金でGranite 3.3 8B (Non-reasoning)が最安のプロバイダーはReplicate（100万トークンあたり$0.05）です。ブレンド料金では、キャッシュヒット／入力／出力トークンを7:2:1とします。
Granite 3.3 8B (Non-reasoning)の入力トークン料金が最安のプロバイダーはReplicate（入力100万トークンあたり$0.03）です。
Granite 3.3 8B (Non-reasoning)の出力トークン料金が最安のプロバイダーはReplicate（出力100万トークンあたり$0.25）です。
ReplicateはGranite 3.3 8B (Non-reasoning)の主要指標すべてで首位となり、出力速度が最も速く、遅延が最も短く、料金の競争力も最も優れています。
Granite 3.3 8B (Non-reasoning)のプロバイダーを選ぶ際は、出力速度（高スループットが必要なタスク）、遅延（最初の応答の速さが必要な対話型アプリケーション）、料金（費用を重視するワークロード）、JSONモードや関数呼び出しなどのAPI機能を検討してください。
はい。インフラストラクチャの変更、負荷分散、アップデートにより、プロバイダーの性能は時間とともに変化する場合があります。すべてのプロバイダーを継続的にベンチマークし、「推移」グラフに過去の性能傾向を表示しています。
Granite 3.3 8B (Non-reasoning)の知能、能力、モダリティ、他のモデルとの比較については、モデル概要ページをご覧ください。 モデル概要を表示