Llama 4 MaverickのAPIプロバイダーを、遅延(最初のトークンまでの時間)、出力速度(1秒あたりの出力トークン数)、料金などの性能指標で分析します。ベンチマーク対象のAPIプロバイダーにはNovita (FP8)、Microsoft Azure (FP8)、Amazon Bedrock、Snowflake、Together AI、DeepInfra (FP8)、Databricks、Parasail (FP8)が含まれます。
最速
出力速度
プロバイダー合計:8社
最短の遅延
最初のトークンまでの時間
プロバイダー合計:8社
最安料金
ブレンド料金(100万トークンあたり)
プロバイダー合計:8社
Llama 4 Maverickは8社のAPIプロバイダーで利用でき、性能特性と料金はそれぞれ異なります。以下でプロバイダー間の主要指標を比較します。
- 出力速度の上位プロバイダーはAmazon(219.8 t/s)、Parasail (FP8)(136.3 t/s)、Snowflake(131.0 t/s)です。 プロバイダー間の速度差は大きく、最速と最遅で394%の差があります。
- 遅延では、DeepInfra (FP8)(0.64秒)、Databricks(0.72秒)、Amazon(0.87秒)の最初のトークンまでの時間が最短です。
- 料金では、DeepInfra (FP8)(0.26)、Parasail (FP8)(0.29)、Amazon(0.31)の100万トークンあたりのブレンド料金が最安です。 プロバイダー間で料金に最大2.3倍の差があります。
- DeepInfra (FP8)は遅延が最も短く、料金も最も優れているため、費用を重視するアプリケーションに適しています。スループットを重視するワークロードには、最速のAmazonが適しています。
ハイライト
更新:本番環境のユースケースをより適切に反映するため、性能ベンチマークのデフォルトワークロードを入力10kトークンに変更しました。上部で別のワークロードを引き続き選択できます。
料金
Pricing: Cache Hit, Input, and Output
Pricing: Blended Price
Pricing: Cache Discount
Output Speed vs. Price
速度
出力速度(1秒あたりのトークン数)で測定
Output Speed: Llama 4 Maverick
Latency vs. Output Speed
遅延
最初のトークンまでの時間(秒)で測定
最初のトークンまでの時間:Llama 4 Maverickのプロバイダー
エンドツーエンド応答時間
Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed
エンドツーエンド応答時間:Llama 4 Maverickのプロバイダー
主要な比較指標とAPI機能
よくある質問
Llama 4 Maverickのプロバイダーに関するよくある質問
Llama 4 Maverickは8社のAPIプロバイダーで利用できます:Novita (FP8)、Azure (FP8)、Amazon、Snowflake、Together AI、DeepInfra (FP8)、Databricks、Parasail (FP8)。性能特性と料金はプロバイダーごとに異なります。
現在、ベンチマークと追跡の対象となる8社のAPIプロバイダーでLlama 4 Maverickを利用できます。
出力速度でLlama 4 Maverickが最速のプロバイダーはAmazon(219.8 t/s)、Parasail (FP8)(136.3 t/s)、Snowflake(131.0 t/s)です。出力速度は、モデルが応答を開始した後にトークンを生成する速さを表します。
Llama 4 Maverickの最初のトークンまでの時間が最短のプロバイダーはDeepInfra (FP8)(0.64s)、Databricks(0.72s)、Amazon(0.87s)です。遅延が短いほど、最初の応答が速くなります。
ブレンド料金でLlama 4 Maverickが最安のプロバイダーはDeepInfra (FP8)(100万トークンあたり$0.26)、Parasail (FP8)(100万トークンあたり$0.29)、Amazon(100万トークンあたり$0.31)です。ブレンド料金では、キャッシュヒット/入力/出力トークンを7:2:1とします。
Llama 4 Maverickの入力トークン料金が最安のプロバイダーはDeepInfra (FP8)(入力100万トークンあたり$0.20)、Amazon(入力100万トークンあたり$0.24)、Azure (FP8)(入力100万トークンあたり$0.25)です。
Llama 4 Maverickの出力トークン料金が最安のプロバイダーはSnowflake(出力100万トークンあたり$0.50)、DeepInfra (FP8)(出力100万トークンあたり$0.80)、Novita (FP8)(出力100万トークンあたり$0.85)です。
Llama 4 Maverickの料金はプロバイダー間で最大2.3倍異なります。最安はDeepInfra (FP8)の100万トークンあたり$0.26で、Databricksは100万トークンあたり$0.60です。
Llama 4 Maverickの出力速度はプロバイダーによって大きく異なります。Amazonが219.8 t/sで最速であり、DeepInfra (FP8)の44.5 t/sと比べて4.9倍高速です。
8社中7社のプロバイダーがLlama 4 MaverickのJSONモードに対応しています:Novita (FP8)、Azure (FP8)、Snowflake、Together AI、DeepInfra (FP8)、Databricks、Parasail (FP8)。
8社中6社のプロバイダーがLlama 4 Maverickの関数呼び出しに対応しています:Novita (FP8)、Azure (FP8)、Amazon、Together AI、Databricks、Parasail (FP8)。
Llama 4 Maverickに最適なプロバイダーは、優先事項によって異なります。Amazonは出力速度が最も速く、DeepInfra (FP8)は遅延が最も短く、DeepInfra (FP8)は料金の競争力が最も優れています。
Llama 4 Maverickのプロバイダーを選ぶ際は、出力速度(高スループットが必要なタスク)、遅延(最初の応答の速さが必要な対話型アプリケーション)、料金(費用を重視するワークロード)、JSONモードや関数呼び出しなどのAPI機能を検討してください。
はい。インフラストラクチャの変更、負荷分散、アップデートにより、プロバイダーの性能は時間とともに変化する場合があります。すべてのプロバイダーを継続的にベンチマークし、「推移」グラフに過去の性能傾向を表示しています。
Llama 4 Maverickの知能、能力、モダリティ、他のモデルとの比較については、モデル概要ページをご覧ください。 モデル概要を表示