This model is deprecated. We only continue performance benchmarking for the default 10k input token workload. Results for other workloads are historical and no longer updated.

Alibaba has launched a newer model, Qwen3 30B A3B 2507 (Non-reasoning). We suggest considering it instead.

For more information, see comparison of Qwen3 30B A3B 2507 (Non-reasoning) to other models and API provider benchmarks for Qwen3 30B A3B 2507 (Non-reasoning).

Qwen3 32B

Open weights model

Released April 2025

Qwen3 32B (Non-reasoning) Benchmarking und Analyse von API-Anbietern

Modellvergleich

Diese Analyse soll Sie bei der Auswahl des besten API-Anbieters von Qwen3 32B (Non-reasoning) für Ihren Anwendungsfall unterstützen.

Am schnellsten

#1
AmazonAmazon
132.4 t/s
#2
Alibaba CloudAlibaba Cloud
106.3 t/s
#3
DeepInfra (FP8)DeepInfra (FP8)
27.3 t/s

Ausgabegeschwindigkeit

Insgesamt 4 Anbieter

Niedrigste Latenz

#1
AmazonAmazon
1.13 s
#2
DeepInfra (FP8)DeepInfra (FP8)
1.38 s
#3
Alibaba CloudAlibaba Cloud
2.46 s

Zeit bis zum ersten Token

Insgesamt 4 Anbieter

Niedrigster Preis

#1
DeepInfra (FP8)DeepInfra (FP8)
$0.10
#2
AmazonAmazon
$0.20
#3
Alibaba CloudAlibaba Cloud
$0.21
#4
SambaNovaSambaNova
$0.44

Mischpreis (pro 1 Mio. Tokens)

Insgesamt 4 Anbieter

Qwen3 32B (Non-reasoning) ist über 4 API-Anbieter verfügbar, die jeweils unterschiedliche Leistungsmerkmale und Preise bieten. Im Folgenden werden die wichtigsten Metriken der Anbieter verglichen.

  • Bei der Ausgabegeschwindigkeit führen Amazon (132.4 Tokens/s), Alibaba Cloud (106.3 Tokens/s) und DeepInfra (FP8) (27.3 Tokens/s).
  • Bei der Latenz bieten Amazon (1.13 s), DeepInfra (FP8) (1.38 s) und Alibaba Cloud (2.46 s) die niedrigste Zeit bis zum ersten Token.
  • Bei den Preisen bieten DeepInfra (FP8) (0.10), Amazon (0.20) und Alibaba Cloud (0.21) die niedrigsten Mischpreise pro 1 Mio. Tokens. Die Preise unterscheiden sich je nach Anbieter bis zum 4.4-Fachen.
  • Amazon bietet mit der höchsten Geschwindigkeit und der niedrigsten Latenz die beste Leistung. Für eine Kostenoptimierung bietet DeepInfra (FP8) den konkurrenzfähigsten Preis.

Wichtigste Ergebnisse

Output tokens per second · Higher is better
Seconds · Lower is better
USD per 1M tokens (blended) · Lower is better

Preise

Pricing: Cache Hit, Input, and Output

Price (USD per M Tokens) · Lower is better · 10,000 input tokens

Pricing: Blended Price

Blended at 7:2:1 (cache-input-output) · USD per 1M tokens (blended) · Lower is better

Output Speed vs. Price

Blended at 7:2:1 (cache-input-output) · Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant
Pareto line

Geschwindigkeit

Gemessen anhand der Ausgabegeschwindigkeit (Tokens pro Sekunde)

Output Speed: Qwen3 32B (Non-reasoning)

Output speed: output tokens per second · 10,000 input tokens

Latency vs. Output Speed

Latency: seconds to first token received · Output speed: output tokens per second · 10,000 input tokens
Most attractive quadrant

Latenz

Gemessen anhand der Zeit (in Sekunden) bis zum ersten Token

Zeit bis zum ersten Token

Seconds to first token received · Lower is better · 10,000 input tokens

Ende-zu-Ende-Antwortzeit

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

Ende-zu-Ende-Antwortzeit

Seconds to output 500 tokens, including reasoning model 'thinking' time · Lower is better · 10,000 input tokens

Wichtige Vergleichsmetriken und API-Funktionen

Logo von DeepInfraDeepInfra
41k
Offen
--
27
1.38
19.68
--
Logo von Alibaba CloudAlibaba Cloud
131k
Offen
--
106
2.46
7.16
--
Logo von Amazon BedrockAmazon Bedrock
32.8k
Offen
--
132
1.13
4.90
--
Logo von SambaNovaSambaNova
32.8k
Offen
--
--
--
--
--

Häufig gestellte Fragen

Häufige Fragen zu den Anbietern von Qwen3 32B (Non-reasoning)