This model is deprecated. We only continue performance benchmarking for the default 10k input token workload. Results for other workloads are historical and no longer updated.

Alibaba has launched a newer model, Qwen3.5 397B A17B (Non-reasoning). We suggest considering it instead.

For more information, see comparison of Qwen3.5 397B A17B (Non-reasoning) to other models and API provider benchmarks for Qwen3.5 397B A17B (Non-reasoning).

Open weights model

Released 2025년 7월

Qwen3 235B A22B 2507 Instruct API 제공업체 벤치마킹 및 분석

모델 비교

이 분석은 사용 사례에 가장 적합한 Qwen3 235B A22B 2507 Instruct API 제공업체를 선택하는 데 도움을 드립니다.

가장 빠름

#1
CrusoeCrusoe
107.6 t/s
#2
NebiusNebius
96.7 t/s
#3
AmazonAmazon
93.0 t/s
#4
ScalewayScaleway
91.5 t/s
#5
Google VertexGoogle Vertex
81.5 t/s

출력 속도

총 제공업체 10곳

가장 낮은 지연 시간

#1
CrusoeCrusoe
0.63 s
#2
DeepInfra (FP8)DeepInfra (FP8)
0.67 s
#3
Google VertexGoogle Vertex
0.78 s
#4
ParasailParasail
1.14 s
#5
AmazonAmazon
1.26 s

첫 토큰까지 걸린 시간

총 제공업체 10곳

가장 낮은 가격

#1
DeepInfra (FP8)DeepInfra (FP8)
$0.14
#2
NovitaNovita
$0.14
#3
ParasailParasail
$0.14
#4
CrusoeCrusoe
$0.20
#5
NebiusNebius
$0.24

혼합 가격(토큰 100만 개당)

총 제공업체 10곳

Qwen3 235B 2507 (Non-reasoning)은 성능 특성과 가격이 서로 다른 API 제공업체 10곳에서 제공됩니다. 아래에서 제공업체별 주요 지표를 비교합니다.

  • 출력 속도가 가장 높은 제공업체는 Crusoe(107.6 t/s), Nebius(96.7 t/s) 및 Amazon(93.0 t/s)입니다. 제공업체별 속도 차이가 크며, 가장 빠른 곳과 가장 느린 곳의 차이는 579%입니다.
  • Crusoe(0.63초), DeepInfra (FP8)(0.67초) 및 Google Vertex(0.78초)의 첫 토큰까지 걸린 시간이 가장 짧습니다.
  • DeepInfra (FP8)(0.14), Novita(0.14) 및 Parasail(0.14)의 토큰 100만 개당 혼합 가격이 가장 낮습니다. 제공업체별 가격은 최대 14.7배 차이 납니다.
  • Crusoe은 속도가 가장 빠르고 지연 시간이 가장 짧아 최고의 성능을 제공합니다. 비용을 최적화하려면 가격 경쟁력이 가장 뛰어난 DeepInfra (FP8)이 적합합니다.

주요 내용

Output tokens per second · Higher is better
Seconds · Lower is better
USD per 1M tokens (blended) · Lower is better

가격

Pricing: Cache Hit, Input, and Output

Price (USD per M Tokens) · Lower is better · 10,000 input tokens

Pricing: Blended Price

Blended at 7:2:1 (cache-input-output) · USD per 1M tokens (blended) · Lower is better

Pricing: Cache Discount

1 - (cache hit price / input price) · Higher is better

Output Speed vs. Price

Blended at 7:2:1 (cache-input-output) · Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant
Pareto line

속도

출력 속도(초당 토큰 수)로 측정

Output Speed: Qwen3 235B A22B 2507 Instruct

Output speed: output tokens per second · 10,000 input tokens

Latency vs. Output Speed

Latency: seconds to first token received · Output speed: output tokens per second · 10,000 input tokens
Most attractive quadrant

지연 시간

첫 토큰까지 걸린 시간(초)으로 측정

첫 토큰까지 걸린 시간

Seconds to first token received · Lower is better · 10,000 input tokens

종단 간 응답 시간

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

종단 간 응답 시간

Seconds to output 500 tokens, including reasoning model 'thinking' time · Lower is better · 10,000 input tokens

주요 비교 지표 및 API 기능

Nebius 로고Nebius
262k
오픈
--
97
1.40
6.57
--
Novita 로고Novita
131k
오픈
--
46
1.67
12.47
--
DeepInfra 로고DeepInfra
262k
오픈
--
16
0.67
32.20
--
Crusoe 로고Crusoe
262k
오픈
--
108
0.63
5.28
--
Hyperbolic 로고Hyperbolic
262k
오픈
--
--
--
--
--
Amazon Bedrock 로고Amazon Bedrock
256k
오픈
--
93
1.26
6.64
--
Parasail 로고Parasail
262k
오픈
--
32
1.14
16.66
--
Scaleway 로고Scaleway
250k
오픈
--
91
1.44
6.91
--
Alibaba Cloud 로고Alibaba Cloud
131k
오픈
--
58
2.37
10.97
--
Google 로고Google
262k
오픈
--
82
0.78
6.91
--

자주 묻는 질문

Qwen3 235B A22B 2507 Instruct 제공업체에 관한 일반적인 질문