•

Open weights model

•

Released 2025년 4월

Llama 4 Scout API 제공업체 벤치마킹 및 분석

모델 비교

이 분석은 사용 사례에 가장 적합한 Llama 4 Scout API 제공업체를 선택하는 데 도움을 드립니다.

가장 빠름

#1
Google VertexGoogle Vertex
159.4 t/s
#2
AzureAzure
133.8 t/s
#3
DeepInfraDeepInfra
38.0 t/s
#4
NovitaNovita
36.8 t/s

출력 속도

총 제공업체 5곳

가장 낮은 지연 시간

#1
DeepInfraDeepInfra
0.61 s
#2
Google VertexGoogle Vertex
0.73 s
#3
AzureAzure
0.83 s
#4
NovitaNovita
1.05 s

첫 토큰까지 걸린 시간

총 제공업체 5곳

가장 낮은 가격

#1
DeepInfraDeepInfra
$0.12
#2
AmazonAmazon
$0.22
#3
NovitaNovita
$0.22
#4
AzureAzure
$0.26
#5
Google VertexGoogle Vertex
$0.30

혼합 가격(토큰 100만 개당)

총 제공업체 5곳

Llama 4 Scout은 성능 특성과 가격이 서로 다른 API 제공업체 5곳에서 제공됩니다. 아래에서 제공업체별 주요 지표를 비교합니다.

  • 출력 속도가 가장 높은 제공업체는 Google Vertex(159.4 t/s), Azure(133.8 t/s) 및 DeepInfra(38.0 t/s)입니다. 제공업체별 속도 차이가 크며, 가장 빠른 곳과 가장 느린 곳의 차이는 334%입니다.
  • DeepInfra(0.61초), Google Vertex(0.73초) 및 Azure(0.83초)의 첫 토큰까지 걸린 시간이 가장 짧습니다.
  • DeepInfra(0.12), Amazon(0.22) 및 Novita(0.22)의 토큰 100만 개당 혼합 가격이 가장 낮습니다. 제공업체별 가격은 최대 2.5배 차이 납니다.
  • DeepInfra은 지연 시간이 가장 짧고 가격도 가장 낮아 비용에 민감한 애플리케이션에 매력적입니다. 처리량 중심 워크로드에는 가장 빠른 Google Vertex이 적합합니다.
Output tokens per second · Higher is better
Seconds to first answer token received · Lower is better
USD per 1M tokens (blended) · Lower is better

업데이트: 프로덕션 사용 사례를 더 잘 반영하도록 기본 성능 벤치마킹 워크로드를 입력 토큰 10k개로 변경했습니다. 위에서 다른 워크로드도 계속 선택할 수 있습니다.

가격

가격: 캐시 적중, 입력 및 출력

Price (USD per M Tokens) · Lower is better · 10,000 input tokens

Intelligence Index 작업당 비용

Weighted average cost (USD) per Intelligence Index task · Segmented by token type · Lower is better

출력 속도와 가격

Blended at 7:2:1 (cache-input-output) · Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant
Pareto line

속도

출력 속도(초당 토큰 수)로 측정

출력 속도: Llama 4 Scout

출력 속도: 초당 출력 토큰 수 · 10,000 input tokens

Intelligence Index 작업당 시간

Weighted average decode time (minutes) per Intelligence Index task · Excludes TTFT and overhead time · Lower is better

작업당 비용과 작업당 시간

Weighted average cost (USD) per Intelligence Index task · Weighted average decode time (minutes) per Intelligence Index task
Most attractive quadrant
Pareto line

지연 시간

첫 토큰까지 걸린 시간(초)으로 측정

첫 토큰까지 걸린 시간

Seconds to first token received · Lower is better · 10,000 input tokens

종단 간 응답 시간

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

종단 간 응답 시간

Seconds to output 500 tokens, including reasoning model 'thinking' time · Lower is better · 10,000 input tokens

주요 비교 지표 및 API 기능

Microsoft Azure 로고Microsoft Azure
128k
오픈
$0.12
133
0.83
4.60
--
Google 로고Google
1.31M
오픈
$0.16
156
0.71
3.91
--
DeepInfra 로고DeepInfra
131k
오픈
$0.06
22
1.26
23.90
--
Amazon Bedrock 로고Amazon Bedrock
128k
오픈
$0.11
--
--
--
--
Novita 로고Novita
131k
오픈
$0.11
23
1.14
23.26
--

자주 묻는 질문

Llama 4 Scout 제공업체에 관한 일반적인 질문