이 모델은 더 이상 권장되지 않습니다. 기본 입력 토큰 1만 개 워크로드에 대해서만 성능 벤치마킹을 계속합니다. 다른 워크로드의 결과는 과거 데이터이며 더 이상 업데이트되지 않습니다.

Alibaba에서 새 버전인 Qwen3 235B A22B을 출시했습니다. 이 버전 사용을 고려해 보세요.

•

Open weights model

•

Released 2024년 9월

Qwen2.5 Instruct 72B API 제공업체 벤치마킹 및 분석

모델 비교

이 분석은 사용 사례에 가장 적합한 Qwen2.5 Instruct 72B API 제공업체를 선택하는 데 도움을 드립니다.

가장 빠름

#1
DeepInfraDeepInfra
32.9 t/s
#2
SiliconFlow (FP8)SiliconFlow (FP8)
29.3 t/s

출력 속도

총 제공업체 2곳

가장 낮은 지연 시간

#1
DeepInfraDeepInfra
2.25 s
#2
SiliconFlow (FP8)SiliconFlow (FP8)
4.03 s

첫 토큰까지 걸린 시간

총 제공업체 2곳

가장 낮은 가격

#1
DeepInfraDeepInfra
$0.36
#2
SiliconFlow (FP8)SiliconFlow (FP8)
$0.59

혼합 가격(토큰 100만 개당)

총 제공업체 2곳

Qwen2.5 72B은 성능 특성과 가격이 서로 다른 API 제공업체 2곳에서 제공됩니다. 아래에서 제공업체별 주요 지표를 비교합니다.

  • 출력 속도가 가장 높은 제공업체는 DeepInfra(32.9 t/s) 및 SiliconFlow (FP8)(29.3 t/s)입니다.
  • DeepInfra(2.25초) 및 SiliconFlow (FP8)(4.03초)의 첫 토큰까지 걸린 시간이 가장 짧습니다.
  • DeepInfra(0.36) 및 SiliconFlow (FP8)(0.59)의 토큰 100만 개당 혼합 가격이 가장 낮습니다.
  • DeepInfra은 속도, 지연 시간, 가격 세 부문 모두에서 1위를 차지한 종합 선두입니다.
Output tokens per second · Higher is better
Seconds to first answer token received · Lower is better
USD per 1M tokens (blended) · Lower is better

가격

가격: 캐시 적중, 입력 및 출력

Price (USD per M Tokens) · Lower is better · 10,000 input tokens

Intelligence Index 작업당 비용

Weighted average cost (USD) per Intelligence Index task · Segmented by token type · Lower is better
No data available

출력 속도와 가격

Blended at 7:2:1 (cache-input-output) · Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant

속도

출력 속도(초당 토큰 수)로 측정

출력 속도: Qwen2.5 Instruct 72B

출력 속도: 초당 출력 토큰 수 · 10,000 input tokens

Intelligence Index 작업당 시간

Weighted average decode time (minutes) per Intelligence Index task · Excludes TTFT and overhead time · Lower is better
No data available

작업당 비용과 작업당 시간

Weighted average cost (USD) per Intelligence Index task · Weighted average decode time (minutes) per Intelligence Index task
Most attractive quadrant
No data available

지연 시간

첫 토큰까지 걸린 시간(초)으로 측정

첫 토큰까지 걸린 시간

Seconds to first token received · Lower is better · 10,000 input tokens

캐시 동작

캐시 적중률

캐시 가능한 입력 토큰 중 캐시에서 제공된 비율 · 최근 4주 중앙값, 2026년 9월 26일 갱신

작업당 비용와 캐시 적중률

Weighted average cost (USD) per Intelligence Index task · Cache hit rate: median of the last four weeks, updated Sep 26, 2026
Most attractive quadrant
No data available

종단 간 응답 시간

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

종단 간 응답 시간

Seconds to output 500 tokens, including reasoning model 'thinking' time · Lower is better · 10,000 input tokens

주요 비교 지표 및 API 기능

SiliconFlow 로고SiliconFlow
32k
오픈
--
29
4.02
21.35
--
DeepInfra 로고DeepInfra
32.8k
오픈
--
34
2.12
16.69
--

자주 묻는 질문

Qwen2.5 Instruct 72B 제공업체에 관한 일반적인 질문