Llama 3.3 Instruct 70B APIプロバイダーのベンチマークと分析

モデル比較

この分析は、ユースケースに最適なLlama 3.3 Instruct 70BのAPIプロバイダーを選ぶための参考情報です。

最速

Groq

320.1 t/s

SambaNova

304.6 t/s

Azure

128.8 t/s

CoreWeave

93.5 t/s

Scaleway

82.3 t/s

出力速度

プロバイダー合計：10社

最短の遅延

Groq

0.85 s

CoreWeave

0.88 s

Scaleway

1.31 s

Novita

1.73 s

Together AI Turbo

1.87 s

最初のトークンまでの時間

プロバイダー合計：10社

最安料金

DeepInfra (Turbo, FP8)

$0.12

Novita

$0.16

Parasail (FP8)

$0.17

Groq

$0.61

SambaNova

$0.66

ブレンド料金（100万トークンあたり）

プロバイダー合計：10社

Llama 3.3 70Bは10社のAPIプロバイダーで利用でき、性能特性と料金はそれぞれ異なります。以下でプロバイダー間の主要指標を比較します。

出力速度の上位プロバイダーはGroq（320.1 t/s）、SambaNova（304.6 t/s）、Azure（128.8 t/s）です。プロバイダー間の速度差は大きく、最速と最遅で1668%の差があります。
遅延では、Groq（0.85秒）、CoreWeave（0.88秒）、Scaleway（1.31秒）の最初のトークンまでの時間が最短です。
料金では、DeepInfra (Turbo, FP8)（0.12）、Novita（0.16）、Parasail (FP8)（0.17）の100万トークンあたりのブレンド料金が最安です。プロバイダー間で料金に最大8.6倍の差があります。
Groqは出力速度が最も速く、遅延も最短で、性能が最も優れています。費用を最適化するなら、DeepInfra (Turbo, FP8)の料金が最も競争力に優れています。

速度

Output tokens per second · Higher is better

遅延

Seconds to first answer token received · Lower is better

料金

USD per 1M tokens (blended) · Lower is better

更新：本番環境のユースケースをより適切に反映するため、性能ベンチマークのデフォルトワークロードを入力10kトークンに変更しました。上部で別のワークロードを引き続き選択できます。

料金

料金：キャッシュヒット・入力・出力：Llama 3.3 70Bのプロバイダー

Price (USD per M Tokens) · Lower is better · 10,000 input tokens

Price per token for cached prompts (previously processed), typically offering a significant discount compared to regular input price, represented as USD per million tokens. The values shown here are the cache hit price; cache write and cache storage are billed separately and vary by provider — see "Cache pricing by provider" for detail.

Intelligence Index タスクあたりのコスト：Llama 3.3 70Bのプロバイダー

Weighted average cost (USD) per Intelligence Index task · Segmented by token type · Lower is better

No data available

Weighted average cost per Intelligence Index task. Each evaluation’s cost is calculated from input, cache hit, cache write, reasoning, and answer token prices, divided by task count, and weighted by its Intelligence Index weight.

出力速度と料金：Llama 3.3 70Bのプロバイダー

Blended at 7:2:1 (cache-input-output) · Output speed: output tokens per second · USD per 1M tokens (blended)

Most attractive quadrant

Pareto line

Tokens per second received while the model is generating tokens (ie. after first chunk has been received from the API for models which support streaming).

速度

出力速度（1秒あたりのトークン数）で測定

出力速度: Llama 3.3 Instruct 70B

出力速度：毎秒の出力トークン数 · 10,000 input tokens

Tokens per second received while the model is generating tokens (ie. after first chunk has been received from the API for models which support streaming).

Figures represent performance of the model's first-party API or the median across providers where a first-party API is not available.

Intelligence Indexのタスクあたりの時間：Llama 3.3 70Bのプロバイダー

Weighted average decode time (minutes) per Intelligence Index task · Excludes TTFT and overhead time · Lower is better

No data available

The weighted average time (seconds) per Artificial Analysis Intelligence Index task. This is calculated by dividing output tokens per task by output speed, weighted by the relative weights of each benchmark in the Intelligence Index.

タスクあたりの費用とタスクあたりの時間：Llama 3.3 70Bのプロバイダー

Weighted average cost (USD) per Intelligence Index task · Weighted average decode time (minutes) per Intelligence Index task

Most attractive quadrant

No data available

遅延

最初のトークンまでの時間（秒）で測定

最初のトークンまでの時間：Llama 3.3 70Bのプロバイダー

Seconds to first token received · Lower is better · 10,000 input tokens

Time to first token received, in seconds, after API request sent. For reasoning models which share reasoning tokens, this will be the first reasoning token. For models which do not support streaming, this represents time to receive the completion.

Figures represent median (P50) measurement over the past 72 hours to reflect sustained changes in performance.

キャッシュ動作

キャッシュヒット率：Llama 3.3 70Bのプロバイダー

キャッシュ可能な入力トークンのうちキャッシュから提供された割合 · 直近4週間の中央値、2026年9月26日更新

The share of cacheable input tokens served from the provider's prompt cache, measured during multi-turn agentic coding sessions. We regularly measure each endpoint and report a representative rate based on recent measurements. Higher values mean more of the input is billed at the cheaper cache-hit price, where the provider offers one, which lowers the effective cost of agentic workloads. For further details, see our methodology page.

タスクあたりのコストとキャッシュヒット率：Llama 3.3 70Bのプロバイダー

Weighted average cost (USD) per Intelligence Index task · Cache hit rate: median of the last four weeks, updated Sep 26, 2026

Most attractive quadrant

No data available

エンドツーエンド応答時間

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

エンドツーエンド応答時間：Llama 3.3 70Bのプロバイダー

Seconds to output 500 tokens, including reasoning model 'thinking' time · Lower is better · 10,000 input tokens

Seconds to receive a 500 token response. Key components:

Input time: Time to receive the first response token
Thinking time (only for reasoning models): Time reasoning models spend outputting tokens to reason prior to providing an answer. Amount of tokens based on the average reasoning tokens across a diverse set of 60 prompts (methodology details).
Answer time: Time to generate 500 output tokens, based on output speed

主要な比較指標とAPI機能



Google	128k	オープン	--	145	0.69	4.14	--
Groq	131k	オープン	--	305	0.93	2.57	--
Novita	131k	オープン	--	41	1.74	13.94	--
SambaNova	128k	オープン	--	306	1.98	3.62	--
Parasail	131k	オープン	--	81	2.31	8.51	--
CoreWeave	128k	オープン	--	93	0.84	6.22	--
Together AI	131k	オープン	--	64	1.83	9.67	--
Microsoft Azure	128k	オープン	--	130	2.10	5.95	--
DeepInfra	131k	オープン	--	17	2.14	32.02	--
Amazon Bedrock	128k	オープン	--	--	--	--	--
Scaleway	100k	オープン	--	79	1.35	7.66	--

よくある質問

Llama 3.3 Instruct 70Bのプロバイダーに関するよくある質問

Llama 3.3 Instruct 70Bは10社のAPIプロバイダーで利用できます：Groq、Novita、SambaNova、Parasail (FP8)、CoreWeave、Together AI Turbo、Azure、DeepInfra (Turbo, FP8)、Amazon、Scaleway。性能特性と料金はプロバイダーごとに異なります。

現在、ベンチマークと追跡の対象となる10社のAPIプロバイダーでLlama 3.3 Instruct 70Bを利用できます。

出力速度でLlama 3.3 Instruct 70Bが最速のプロバイダーはGroq（320.1 t/s）、SambaNova（304.6 t/s）、Azure（128.8 t/s）です。出力速度は、モデルが応答を開始した後にトークンを生成する速さを表します。

Llama 3.3 Instruct 70Bの最初のトークンまでの時間が最短のプロバイダーはGroq（0.85s）、CoreWeave（0.88s）、Scaleway（1.31s）です。遅延が短いほど、最初の応答が速くなります。

ブレンド料金でLlama 3.3 Instruct 70Bが最安のプロバイダーはDeepInfra (Turbo, FP8)（100万トークンあたり$0.12）、Novita（100万トークンあたり$0.16）、Parasail (FP8)（100万トークンあたり$0.17）です。ブレンド料金では、キャッシュヒット／入力／出力トークンを7:2:1とします。

Llama 3.3 Instruct 70Bの入力トークン料金が最安のプロバイダーはDeepInfra (Turbo, FP8)（入力100万トークンあたり$0.10）、Novita（入力100万トークンあたり$0.14）、Parasail (FP8)（入力100万トークンあたり$0.22）です。

Llama 3.3 Instruct 70Bの出力トークン料金が最安のプロバイダーはDeepInfra (Turbo, FP8)（出力100万トークンあたり$0.32）、Novita（出力100万トークンあたり$0.40）、Parasail (FP8)（出力100万トークンあたり$0.50）です。

Llama 3.3 Instruct 70Bの料金はプロバイダー間で最大8.6倍異なります。最安はDeepInfra (Turbo, FP8)の100万トークンあたり$0.12で、Scalewayは100万トークンあたり$1.05です。

Llama 3.3 Instruct 70Bの出力速度はプロバイダーによって大きく異なります。Groqが320.1 t/sで最速であり、DeepInfra (Turbo, FP8)の18.1 t/sと比べて17.7倍高速です。

10社中9社のプロバイダーがLlama 3.3 Instruct 70BのJSONモードに対応しています：Groq、Novita、SambaNova、Parasail (FP8)、CoreWeave、Together AI Turbo、Azure、DeepInfra (Turbo, FP8)、Scaleway。

Llama 3.3 Instruct 70Bを提供する10社すべてが、関数呼び出し（ツール利用）に対応しています。

Llama 3.3 Instruct 70Bでは、Groqの出力速度が最も速く、遅延も最短で、性能が最も優れています。費用を最適化するなら、DeepInfra (Turbo, FP8)の料金が最も競争力に優れています。

Llama 3.3 Instruct 70Bのプロバイダーを選ぶ際は、出力速度（高スループットが必要なタスク）、遅延（最初の応答の速さが必要な対話型アプリケーション）、料金（費用を重視するワークロード）、JSONモードや関数呼び出しなどのAPI機能を検討してください。

はい。インフラストラクチャの変更、負荷分散、アップデートにより、プロバイダーの性能は時間とともに変化する場合があります。すべてのプロバイダーを継続的にベンチマークし、「推移」グラフに過去の性能傾向を表示しています。

Llama 3.3 Instruct 70Bの知能、能力、モダリティ、他のモデルとの比較については、モデル概要ページをご覧ください。モデル概要を表示

Llama 3.3 Instruct 70B APIプロバイダーのベンチマークと分析

最速

最短の遅延

最安料金

速度

遅延

料金

料金

料金：キャッシュヒット・入力・出力：Llama 3.3 70Bのプロバイダー

Cache Hit

Intelligence Index タスクあたりのコスト：Llama 3.3 70Bのプロバイダー

Cost per Intelligence Index Task

出力速度と料金：Llama 3.3 70Bのプロバイダー

Output Speed

速度

出力速度: Llama 3.3 Instruct 70B

Output Speed

Model Performance Representation

Intelligence Indexのタスクあたりの時間：Llama 3.3 70Bのプロバイダー

Time per Intelligence Index Task

タスクあたりの費用とタスクあたりの時間：Llama 3.3 70Bのプロバイダー

Cost per Intelligence Index Task

遅延

最初のトークンまでの時間：Llama 3.3 70Bのプロバイダー

Latency (Time to First Token)

Median

キャッシュ動作

キャッシュヒット率：Llama 3.3 70Bのプロバイダー

What Cache Hit Rate Shows

タスクあたりのコストとキャッシュヒット率：Llama 3.3 70Bのプロバイダー

Cost per Intelligence Index Task

エンドツーエンド応答時間

エンドツーエンド応答時間：Llama 3.3 70Bのプロバイダー

End-to-End Response Time

主要な比較指標とAPI機能

よくある質問

Llama 3.3 Instruct 70Bはどこで利用できますか？

Llama 3.3 Instruct 70Bを提供するAPIプロバイダーは何社ですか？

Llama 3.3 Instruct 70Bで最速のプロバイダーはどこですか？

Llama 3.3 Instruct 70Bで遅延が最も短いプロバイダーはどこですか？

Llama 3.3 Instruct 70Bで最も安いプロバイダーはどこですか？

Llama 3.3 Instruct 70Bで入力料金が最も安いプロバイダーはどこですか？

Llama 3.3 Instruct 70Bで出力料金が最も安いプロバイダーはどこですか？

Llama 3.3 Instruct 70Bのプロバイダー間で料金はどの程度異なりますか？

Llama 3.3 Instruct 70Bのプロバイダー間で速度はどの程度異なりますか？

Llama 3.3 Instruct 70BでJSONモードに対応するプロバイダーはどこですか？

Llama 3.3 Instruct 70Bで関数呼び出しに対応するプロバイダーはどこですか？

Llama 3.3 Instruct 70Bに最適なプロバイダーはどこですか？

Llama 3.3 Instruct 70Bのプロバイダーはどう選べばよいですか？

Llama 3.3 Instruct 70Bのプロバイダー性能は時間とともに変化しますか？

Llama 3.3 Instruct 70Bの総合的な能力はどの程度ですか？