Open weights model

Released 2025년 4월

Llama 4 Scout API 제공업체 벤치마킹 및 분석

모델 비교

이 분석은 사용 사례에 가장 적합한 Llama 4 Scout API 제공업체를 선택하는 데 도움을 드립니다.

가장 빠름

#1
AmazonAmazon
166.6 t/s
#2
Google VertexGoogle Vertex
143.7 t/s
#3
AzureAzure
132.7 t/s
#4
DeepInfraDeepInfra
22.1 t/s
#5
NovitaNovita
21.5 t/s

출력 속도

총 제공업체 6곳

가장 낮은 지연 시간

#1
Google VertexGoogle Vertex
0.70 s
#2
AmazonAmazon
0.80 s
#3
AzureAzure
0.87 s
#4
DeepInfraDeepInfra
0.91 s
#5
NovitaNovita
1.43 s

첫 토큰까지 걸린 시간

총 제공업체 6곳

가장 낮은 가격

#1
DeepInfraDeepInfra
$0.12
#2
AmazonAmazon
$0.22
#3
NovitaNovita
$0.22
#4
AzureAzure
$0.26
#5
Google VertexGoogle Vertex
$0.30

혼합 가격(토큰 100만 개당)

총 제공업체 6곳

Llama 4 Scout은 성능 특성과 가격이 서로 다른 API 제공업체 6곳에서 제공됩니다. 아래에서 제공업체별 주요 지표를 비교합니다.

  • 출력 속도가 가장 높은 제공업체는 Amazon(166.6 t/s), Google Vertex(143.7 t/s) 및 Azure(132.7 t/s)입니다. 제공업체별 속도 차이가 크며, 가장 빠른 곳과 가장 느린 곳의 차이는 675%입니다.
  • Google Vertex(0.70초), Amazon(0.80초) 및 Azure(0.87초)의 첫 토큰까지 걸린 시간이 가장 짧습니다.
  • DeepInfra(0.12), Amazon(0.22) 및 Novita(0.22)의 토큰 100만 개당 혼합 가격이 가장 낮습니다. 제공업체별 가격은 최대 2.7배 차이 납니다.

주요 내용

Output tokens per second · Higher is better
Seconds · Lower is better
USD per 1M tokens (blended) · Lower is better

업데이트: 프로덕션 사용 사례를 더 잘 반영하도록 기본 성능 벤치마킹 워크로드를 입력 토큰 10k개로 변경했습니다. 위에서 다른 워크로드도 계속 선택할 수 있습니다.

가격

Pricing: Cache Hit, Input, and Output

Price (USD per M Tokens) · Lower is better · 10,000 input tokens

Pricing: Blended Price

Blended at 7:2:1 (cache-input-output) · USD per 1M tokens (blended) · Lower is better

Output Speed vs. Price

Blended at 7:2:1 (cache-input-output) · Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant
Pareto line

속도

출력 속도(초당 토큰 수)로 측정

Output Speed: Llama 4 Scout

Output speed: output tokens per second · 10,000 input tokens

Latency vs. Output Speed

Latency: seconds to first token received · Output speed: output tokens per second · 10,000 input tokens
Most attractive quadrant
Pareto line

지연 시간

첫 토큰까지 걸린 시간(초)으로 측정

첫 토큰까지 걸린 시간

Seconds to first token received · Lower is better · 10,000 input tokens

종단 간 응답 시간

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

종단 간 응답 시간

Seconds to output 500 tokens, including reasoning model 'thinking' time · Lower is better · 10,000 input tokens

주요 비교 지표 및 API 기능

DeepInfra 로고DeepInfra
328k
오픈
$0.06
22
0.91
23.55
--
Microsoft Azure 로고Microsoft Azure
128k
오픈
$0.12
133
0.87
4.64
--
Google 로고Google
1.31M
오픈
$0.16
144
0.70
4.18
--
Cloudflare 로고Cloudflare
131k
오픈
$0.17
--
--
--
--
Amazon Bedrock 로고Amazon Bedrock
128k
오픈
$0.11
167
0.80
3.80
--
Novita 로고Novita
131k
오픈
$0.11
22
1.43
24.68
--

자주 묻는 질문

Llama 4 Scout 제공업체에 관한 일반적인 질문