•

Open weights model

•

Released 2025년 4월

Llama 4 Maverick API 제공업체 벤치마킹 및 분석

모델 비교

이 분석은 사용 사례에 가장 적합한 Llama 4 Maverick API 제공업체를 선택하는 데 도움을 드립니다.

가장 빠름

#1
Azure (FP8)Azure (FP8)
442.8 t/s
#2
Parasail (FP8)Parasail (FP8)
75.6 t/s
#3
Novita (FP8)Novita (FP8)
40.4 t/s
#4
DeepInfra (FP8)DeepInfra (FP8)
36.9 t/s

출력 속도

총 제공업체 6곳

가장 낮은 지연 시간

#1
DeepInfra (FP8)DeepInfra (FP8)
0.85 s
#2
Novita (FP8)Novita (FP8)
1.21 s
#3
Parasail (FP8)Parasail (FP8)
1.28 s
#4
Azure (FP8)Azure (FP8)
1.34 s

첫 토큰까지 걸린 시간

총 제공업체 6곳

가장 낮은 가격

#1
DeepInfra (FP8)DeepInfra (FP8)
$0.26
#2
Parasail (FP8)Parasail (FP8)
$0.29
#3
AmazonAmazon
$0.31
#4
Azure (FP8)Azure (FP8)
$0.33
#5
Novita (FP8)Novita (FP8)
$0.33

혼합 가격(토큰 100만 개당)

총 제공업체 6곳

Llama 4 Maverick은 성능 특성과 가격이 서로 다른 API 제공업체 6곳에서 제공됩니다. 아래에서 제공업체별 주요 지표를 비교합니다.

  • 출력 속도가 가장 높은 제공업체는 Azure (FP8)(442.8 t/s), Parasail (FP8)(75.6 t/s) 및 Novita (FP8)(40.4 t/s)입니다. 제공업체별 속도 차이가 크며, 가장 빠른 곳과 가장 느린 곳의 차이는 1102%입니다.
  • DeepInfra (FP8)(0.85초), Novita (FP8)(1.21초) 및 Parasail (FP8)(1.28초)의 첫 토큰까지 걸린 시간이 가장 짧습니다.
  • DeepInfra (FP8)(0.26), Parasail (FP8)(0.29) 및 Amazon(0.31)의 토큰 100만 개당 혼합 가격이 가장 낮습니다.
  • DeepInfra (FP8)은 지연 시간이 가장 짧고 가격도 가장 낮아 비용에 민감한 애플리케이션에 매력적입니다. 처리량 중심 워크로드에는 가장 빠른 Azure (FP8)이 적합합니다.
Output tokens per second · Higher is better
Seconds to first answer token received · Lower is better
USD per 1M tokens (blended) · Lower is better

업데이트: 프로덕션 사용 사례를 더 잘 반영하도록 기본 성능 벤치마킹 워크로드를 입력 토큰 10k개로 변경했습니다. 위에서 다른 워크로드도 계속 선택할 수 있습니다.

가격

가격: 캐시 적중, 입력 및 출력

Price (USD per M Tokens) · Lower is better · 10,000 input tokens

가격: 혼합 가격

Blended at 7:2:1 (cache-input-output) · USD per 1M tokens (blended) · Lower is better

가격: 캐시 할인

1 - (cache hit price / input price) · Higher is better

출력 속도와 가격

Blended at 7:2:1 (cache-input-output) · Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant
Pareto line

속도

출력 속도(초당 토큰 수)로 측정

출력 속도: Llama 4 Maverick

출력 속도: 초당 출력 토큰 수 · 10,000 input tokens

지연 시간과 출력 속도

Latency: seconds to first token received · Output speed: output tokens per second · 10,000 input tokens
Most attractive quadrant
Pareto line

지연 시간

첫 토큰까지 걸린 시간(초)으로 측정

첫 토큰까지 걸린 시간

Seconds to first token received · Lower is better · 10,000 input tokens

종단 간 응답 시간

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

종단 간 응답 시간

Seconds to output 500 tokens, including reasoning model 'thinking' time · Lower is better · 10,000 input tokens

주요 비교 지표 및 API 기능

Novita 로고Novita
1.05M
오픈
--
43
1.17
12.88
--
Microsoft Azure 로고Microsoft Azure
128k
오픈
--
428
1.34
2.51
--
Amazon Bedrock 로고Amazon Bedrock
128k
오픈
--
258
0.98
2.91
--
Together AI 로고Together AI
1.05M
오픈
--
--
--
--
--
DeepInfra 로고DeepInfra
1.05M
오픈
--
46
0.84
11.70
--
Parasail 로고Parasail
1.05M
오픈
--
75
1.26
7.92
--

자주 묻는 질문

Llama 4 Maverick 제공업체에 관한 일반적인 질문