이 모델은 더 이상 권장되지 않습니다. 기본 입력 토큰 1만 개 워크로드에 대해서만 성능 벤치마킹을 계속합니다. 다른 워크로드의 결과는 과거 데이터이며 더 이상 업데이트되지 않습니다.

Alibaba에서 새 버전인 Qwen3 30B A3B 2507 (Reasoning)을 출시했습니다. 이 버전 사용을 고려해 보세요.

•
Qwen3 32B
•

Open weights model

•

Released 2025년 4월

Qwen3 32B (Reasoning) API 제공업체 벤치마킹 및 분석

모델 비교

이 분석은 사용 사례에 가장 적합한 Qwen3 32B (Reasoning) API 제공업체를 선택하는 데 도움을 드립니다.

가장 빠름

#1
Alibaba CloudAlibaba Cloud
106.5 t/s
#2
DeepInfra (FP8)DeepInfra (FP8)
24.7 t/s

출력 속도

총 제공업체 3곳

가장 낮은 지연 시간

#1
Alibaba CloudAlibaba Cloud
21.27 s
#2
DeepInfra (FP8)DeepInfra (FP8)
82.48 s

첫 답변 토큰까지 걸린 시간

총 제공업체 3곳

가장 낮은 가격

#1
DeepInfra (FP8)DeepInfra (FP8)
$0.10
#2
Alibaba CloudAlibaba Cloud
$0.21
#3
SambaNovaSambaNova
$0.44

혼합 가격(토큰 100만 개당)

총 제공업체 3곳

Qwen3 32B은 성능 특성과 가격이 서로 다른 API 제공업체 3곳에서 제공됩니다. 아래에서 제공업체별 주요 지표를 비교합니다.

  • 출력 속도가 가장 높은 제공업체는 Alibaba Cloud(106.5 t/s) 및 DeepInfra (FP8)(24.7 t/s)입니다.
  • Alibaba Cloud(21.27초) 및 DeepInfra (FP8)(82.48초)의 첫 답변 토큰까지 걸린 시간이 가장 짧습니다.
  • DeepInfra (FP8)(0.10), Alibaba Cloud(0.21) 및 SambaNova(0.44)의 토큰 100만 개당 혼합 가격이 가장 낮습니다.
  • Alibaba Cloud은 속도가 가장 빠르고 지연 시간이 가장 짧아 최고의 성능을 제공합니다. 비용을 최적화하려면 가격 경쟁력이 가장 뛰어난 DeepInfra (FP8)이 적합합니다.
Output tokens per second · Higher is better
Seconds to first answer token received · Lower is better
USD per 1M tokens (blended) · Lower is better

가격

가격: 캐시 적중, 입력 및 출력

Price (USD per M Tokens) · Lower is better · 10,000 input tokens

가격: 혼합 가격

Blended at 7:2:1 (cache-input-output) · USD per 1M tokens (blended) · Lower is better

출력 속도와 가격

Blended at 7:2:1 (cache-input-output) · Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant
Pareto line

속도

출력 속도(초당 토큰 수)로 측정

출력 속도: Qwen3 32B (Reasoning)

출력 속도: 초당 출력 토큰 수 · 10,000 input tokens

지연 시간과 출력 속도

Latency: seconds to first token received · Output speed: output tokens per second · 10,000 input tokens
Most attractive quadrant
Pareto line

지연 시간

첫 토큰까지 걸린 시간(초)으로 측정

첫 답변 토큰까지 걸린 시간

Seconds to first token received · Lower is better · 10,000 input tokens

종단 간 응답 시간

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

종단 간 응답 시간

Seconds to output 500 tokens, including reasoning model 'thinking' time · Lower is better · 10,000 input tokens

주요 비교 지표 및 API 기능

DeepInfra 로고DeepInfra
41k
오픈
--
31
1.50
81.16
63.73
Alibaba Cloud 로고Alibaba Cloud
131k
오픈
--
106
2.50
26.18
18.95
SambaNova 로고SambaNova
32.8k
오픈
--
--
--
--
--

자주 묻는 질문

Qwen3 32B (Reasoning) 제공업체에 관한 일반적인 질문