•

Open weights model

•

Released 2025년 4월

Llama 4 Scout API 제공업체 벤치마킹 및 분석

모델 비교

이 분석은 사용 사례에 가장 적합한 Llama 4 Scout API 제공업체를 선택하는 데 도움을 드립니다.

가장 빠름

#1
Google VertexGoogle Vertex
155.9 t/s
#2
AzureAzure
133.4 t/s
#3
DeepInfraDeepInfra
27.2 t/s
#4
NovitaNovita
27.0 t/s

출력 속도

총 제공업체 6곳

가장 낮은 지연 시간

#1
Google VertexGoogle Vertex
0.70 s
#2
DeepInfraDeepInfra
0.83 s
#3
AzureAzure
0.84 s
#4
NovitaNovita
1.19 s

첫 토큰까지 걸린 시간

총 제공업체 6곳

가장 낮은 가격

#1
DeepInfraDeepInfra
$0.12
#2
AmazonAmazon
$0.22
#3
NovitaNovita
$0.22
#4
AzureAzure
$0.26
#5
Google VertexGoogle Vertex
$0.30

혼합 가격(토큰 100만 개당)

총 제공업체 6곳

Llama 4 Scout은 성능 특성과 가격이 서로 다른 API 제공업체 6곳에서 제공됩니다. 아래에서 제공업체별 주요 지표를 비교합니다.

  • 출력 속도가 가장 높은 제공업체는 Google Vertex(155.9 t/s), Azure(133.4 t/s) 및 DeepInfra(27.2 t/s)입니다. 제공업체별 속도 차이가 크며, 가장 빠른 곳과 가장 느린 곳의 차이는 478%입니다.
  • Google Vertex(0.70초), DeepInfra(0.83초) 및 Azure(0.84초)의 첫 토큰까지 걸린 시간이 가장 짧습니다.
  • DeepInfra(0.12), Amazon(0.22) 및 Novita(0.22)의 토큰 100만 개당 혼합 가격이 가장 낮습니다. 제공업체별 가격은 최대 2.7배 차이 납니다.
  • Google Vertex은 속도가 가장 빠르고 지연 시간이 가장 짧아 최고의 성능을 제공합니다. 비용을 최적화하려면 가격 경쟁력이 가장 뛰어난 DeepInfra이 적합합니다.
Output tokens per second · Higher is better
Seconds to first answer token received · Lower is better
USD per 1M tokens (blended) · Lower is better

업데이트: 프로덕션 사용 사례를 더 잘 반영하도록 기본 성능 벤치마킹 워크로드를 입력 토큰 10k개로 변경했습니다. 위에서 다른 워크로드도 계속 선택할 수 있습니다.

가격

가격: 캐시 적중, 입력 및 출력

Price (USD per M Tokens) · Lower is better · 10,000 input tokens

가격: 혼합 가격

Blended at 7:2:1 (cache-input-output) · USD per 1M tokens (blended) · Lower is better

출력 속도와 가격

Blended at 7:2:1 (cache-input-output) · Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant
Pareto line

속도

출력 속도(초당 토큰 수)로 측정

출력 속도: Llama 4 Scout

출력 속도: 초당 출력 토큰 수 · 10,000 input tokens

지연 시간과 출력 속도

Latency: seconds to first token received · Output speed: output tokens per second · 10,000 input tokens
Most attractive quadrant

지연 시간

첫 토큰까지 걸린 시간(초)으로 측정

첫 토큰까지 걸린 시간

Seconds to first token received · Lower is better · 10,000 input tokens

종단 간 응답 시간

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

종단 간 응답 시간

Seconds to output 500 tokens, including reasoning model 'thinking' time · Lower is better · 10,000 input tokens

주요 비교 지표 및 API 기능

DeepInfra 로고DeepInfra
328k
오픈
--
33
0.83
15.82
--
Microsoft Azure 로고Microsoft Azure
128k
오픈
--
135
0.88
4.60
--
Google 로고Google
1.31M
오픈
--
157
0.69
3.88
--
Cloudflare 로고Cloudflare
131k
오픈
--
--
--
--
--
Amazon Bedrock 로고Amazon Bedrock
128k
오픈
--
150
0.85
4.18
--
Novita 로고Novita
131k
오픈
--
26
1.10
20.65
--

자주 묻는 질문

Llama 4 Scout 제공업체에 관한 일반적인 질문