This model is deprecated. We only continue performance benchmarking for the default 10k input token workload. Results for other workloads are historical and no longer updated.

Alibaba has launched a newer model, Qwen3.5 397B A17B (Non-reasoning). We suggest considering it instead.

For more information, see comparison of Qwen3.5 397B A17B (Non-reasoning) to other models and API provider benchmarks for Qwen3.5 397B A17B (Non-reasoning).

Open weights model

Released Juli 2025

Qwen3 235B A22B 2507 Instruct Benchmarking und Analyse von API-Anbietern

Modellvergleich

Diese Analyse soll Sie bei der Auswahl des besten API-Anbieters von Qwen3 235B A22B 2507 Instruct für Ihren Anwendungsfall unterstützen.

Am schnellsten

#1
CrusoeCrusoe
107.6 t/s
#2
NebiusNebius
96.7 t/s
#3
AmazonAmazon
93.0 t/s
#4
ScalewayScaleway
91.5 t/s
#5
Google VertexGoogle Vertex
81.5 t/s

Ausgabegeschwindigkeit

Insgesamt 10 Anbieter

Niedrigste Latenz

#1
CrusoeCrusoe
0.63 s
#2
DeepInfra (FP8)DeepInfra (FP8)
0.67 s
#3
Google VertexGoogle Vertex
0.78 s
#4
ParasailParasail
1.14 s
#5
AmazonAmazon
1.26 s

Zeit bis zum ersten Token

Insgesamt 10 Anbieter

Niedrigster Preis

#1
DeepInfra (FP8)DeepInfra (FP8)
$0.14
#2
NovitaNovita
$0.14
#3
ParasailParasail
$0.14
#4
CrusoeCrusoe
$0.20
#5
NebiusNebius
$0.24

Mischpreis (pro 1 Mio. Tokens)

Insgesamt 10 Anbieter

Qwen3 235B 2507 (Non-reasoning) ist über 10 API-Anbieter verfügbar, die jeweils unterschiedliche Leistungsmerkmale und Preise bieten. Im Folgenden werden die wichtigsten Metriken der Anbieter verglichen.

  • Bei der Ausgabegeschwindigkeit führen Crusoe (107.6 Tokens/s), Nebius (96.7 Tokens/s) und Amazon (93.0 Tokens/s). Die Geschwindigkeit unterscheidet sich erheblich zwischen den Anbietern: Der Unterschied zwischen dem schnellsten und langsamsten beträgt 579 %.
  • Bei der Latenz bieten Crusoe (0.63 s), DeepInfra (FP8) (0.67 s) und Google Vertex (0.78 s) die niedrigste Zeit bis zum ersten Token.
  • Bei den Preisen bieten DeepInfra (FP8) (0.14), Novita (0.14) und Parasail (0.14) die niedrigsten Mischpreise pro 1 Mio. Tokens. Die Preise unterscheiden sich je nach Anbieter bis zum 14.7-Fachen.
  • Crusoe bietet mit der höchsten Geschwindigkeit und der niedrigsten Latenz die beste Leistung. Für eine Kostenoptimierung bietet DeepInfra (FP8) den konkurrenzfähigsten Preis.

Wichtigste Ergebnisse

Output tokens per second · Higher is better
Seconds · Lower is better
USD per 1M tokens (blended) · Lower is better

Preise

Pricing: Cache Hit, Input, and Output

Price (USD per M Tokens) · Lower is better · 10,000 input tokens

Pricing: Blended Price

Blended at 7:2:1 (cache-input-output) · USD per 1M tokens (blended) · Lower is better

Pricing: Cache Discount

1 - (cache hit price / input price) · Higher is better

Output Speed vs. Price

Blended at 7:2:1 (cache-input-output) · Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant
Pareto line

Geschwindigkeit

Gemessen anhand der Ausgabegeschwindigkeit (Tokens pro Sekunde)

Output Speed: Qwen3 235B A22B 2507 Instruct

Output speed: output tokens per second · 10,000 input tokens

Latency vs. Output Speed

Latency: seconds to first token received · Output speed: output tokens per second · 10,000 input tokens
Most attractive quadrant

Latenz

Gemessen anhand der Zeit (in Sekunden) bis zum ersten Token

Zeit bis zum ersten Token

Seconds to first token received · Lower is better · 10,000 input tokens

Ende-zu-Ende-Antwortzeit

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

Ende-zu-Ende-Antwortzeit

Seconds to output 500 tokens, including reasoning model 'thinking' time · Lower is better · 10,000 input tokens

Wichtige Vergleichsmetriken und API-Funktionen

Logo von NebiusNebius
262k
Offen
--
97
1.40
6.57
--
Logo von NovitaNovita
131k
Offen
--
46
1.67
12.47
--
Logo von DeepInfraDeepInfra
262k
Offen
--
16
0.67
32.20
--
Logo von CrusoeCrusoe
262k
Offen
--
108
0.63
5.28
--
Logo von HyperbolicHyperbolic
262k
Offen
--
--
--
--
--
Logo von Amazon BedrockAmazon Bedrock
256k
Offen
--
93
1.26
6.64
--
Logo von ParasailParasail
262k
Offen
--
32
1.14
16.66
--
Logo von ScalewayScaleway
250k
Offen
--
91
1.44
6.91
--
Logo von Alibaba CloudAlibaba Cloud
131k
Offen
--
58
2.37
10.97
--
Logo von GoogleGoogle
262k
Offen
--
82
0.78
6.91
--

Häufig gestellte Fragen

Häufige Fragen zu den Anbietern von Qwen3 235B A22B 2507 Instruct