このモデルは非推奨です。デフォルトの入力トークン数1万のワークロードでのみ性能測定を継続しています。他のワークロードの結果は過去のデータであり、更新されません。
Nous Researchは新しいリリースであるHermes 4 - Llama-3.1 70Bを公開しています。こちらの利用をご検討ください。
Hermes 3 - Llama-3.1 70B APIプロバイダーのベンチマークと分析
この分析は、ユースケースに最適なHermes 3 - Llama-3.1 70BのAPIプロバイダーを選ぶための参考情報です。
最速
DeepInfra出力速度
プロバイダー合計：1社
最短の遅延
DeepInfra最初のトークンまでの時間
プロバイダー合計：1社
最安料金
DeepInfraブレンド料金（100万トークンあたり）
プロバイダー合計：1社
Hermes 3 - Llama-3.1 70BはDeepInfraで利用できます。
料金
料金：キャッシュヒット・入力・出力
料金：ブレンド料金
出力速度と料金
速度
出力速度（1秒あたりのトークン数）で測定
出力速度: Hermes 3 - Llama-3.1 70B
遅延と出力速度
遅延
最初のトークンまでの時間（秒）で測定
最初のトークンまでの時間
エンドツーエンド応答時間
Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed
エンドツーエンド応答時間
主要な比較指標とAPI機能
よくある質問
Hermes 3 - Llama-3.1 70Bのプロバイダーに関するよくある質問
Hermes 3 - Llama-3.1 70Bは1社のAPIプロバイダーで利用できます：DeepInfra。性能特性と料金はプロバイダーごとに異なります。
現在、ベンチマークと追跡の対象となる1社のAPIプロバイダーでHermes 3 - Llama-3.1 70Bを利用できます。
出力速度でHermes 3 - Llama-3.1 70Bが最速のプロバイダーはDeepInfra（31.1 t/s）です。出力速度は、モデルが応答を開始した後にトークンを生成する速さを表します。
Hermes 3 - Llama-3.1 70Bの最初のトークンまでの時間が最短のプロバイダーはDeepInfra（2.18s）です。遅延が短いほど、最初の応答が速くなります。
ブレンド料金でHermes 3 - Llama-3.1 70Bが最安のプロバイダーはDeepInfra（100万トークンあたり$0.70）です。ブレンド料金では、キャッシュヒット／入力／出力トークンを7:2:1とします。
Hermes 3 - Llama-3.1 70Bの入力トークン料金が最安のプロバイダーはDeepInfra（入力100万トークンあたり$0.70）です。
Hermes 3 - Llama-3.1 70Bの出力トークン料金が最安のプロバイダーはDeepInfra（出力100万トークンあたり$0.70）です。
Hermes 3 - Llama-3.1 70Bを提供する1社すべてが、構造化出力のJSONモードに対応しています。
DeepInfraはHermes 3 - Llama-3.1 70Bの主要指標すべてで首位となり、出力速度が最も速く、遅延が最も短く、料金の競争力も最も優れています。
Hermes 3 - Llama-3.1 70Bのプロバイダーを選ぶ際は、出力速度（高スループットが必要なタスク）、遅延（最初の応答の速さが必要な対話型アプリケーション）、料金（費用を重視するワークロード）、JSONモードや関数呼び出しなどのAPI機能を検討してください。
はい。インフラストラクチャの変更、負荷分散、アップデートにより、プロバイダーの性能は時間とともに変化する場合があります。すべてのプロバイダーを継続的にベンチマークし、「推移」グラフに過去の性能傾向を表示しています。
Hermes 3 - Llama-3.1 70Bの知能、能力、モダリティ、他のモデルとの比較については、モデル概要ページをご覧ください。 モデル概要を表示