DeepInfra: Intelligenz, Leistung und Preise der Modelle
Analyse der Modelle von DeepInfra anhand zentraler Metriken wie Qualität, Preis, Ausgabegeschwindigkeit, Latenz, Kontextfenster und mehr. Diese Analyse soll Sie bei der Auswahl des besten von DeepInfra angebotenen Modells für Ihren Anwendungsfall unterstützen.
Höchste Intelligenz
Intelligence Index
Insgesamt 97 Modelle
Am schnellsten
Ausgabegeschwindigkeit
Insgesamt 97 Modelle
Niedrigster Preis
Mischpreis (pro 1 Mio. Tokens)
Insgesamt 97 Modelle
DeepInfra bietet 97 Modelle mit jeweils unterschiedlichen Merkmalen bei Intelligenz, Leistung und Preis an. Nachfolgend werden die wichtigsten Metriken der Modelle verglichen.
- Bei der Intelligenz sind GLM-5.2 (max) (FP4) (51), DeepSeek V4 Flash 0731 (max) (50) und MiniMax-M3 (44) die führenden Modelle von DeepInfra.
- Bei der Ausgabegeschwindigkeit sind Step 3.7 Flash (199 t/s), Inkling (FP8) (190 t/s) und Qwen3.5 122B A10B (FP4) (185 t/s) am schnellsten.
- Bei der Latenz bieten NVIDIA Nemotron 3 Nano (0.43 s), Qwen3 30B (FP8) (0.52 s) und Qwen3.5 35B A3B FP8 (0.54 s) die kürzeste Zeit bis zum ersten Antworttoken.
- Beim Preis bieten Llama 3.1 8B (Turbo, FP8) ($0.02), Llama 3.1 8B ($0.02) und Gemma 4 E4B ($0.03) die niedrigsten Mischpreise pro 1 Mio. Tokens.
- Bei der Größe des Kontextfensters unterstützen GLM-5.2 (max) (FP4) (1M), DeepSeek V4 Pro (max) (FP4) (1M) und DeepSeek V4 Flash (max) (FP4) (1M) die größten Kontextfenster von DeepInfra.
Wichtigste Ergebnisse
Intelligenzevaluationen
Artificial Analysis Intelligence Index
Intelligence Evaluations
Agentic real-world work tasks, (Elo-500)/2000
Agentic tool use
Agentic coding & terminal use
Coding
Reasoning & knowledge
Scientific reasoning
Physics reasoning
Knowledge
1 - hallucination rate
Long context reasoning
Agentic knowledge work, Elo
Agentic SaaS workflows
Legal agentic work, criterion pass rate
Agentic business operations
Instruction following
Long-horizon agentic tasks
Kubernetes incident root-cause analysis
Visual reasoning
Intelligence Index vs. Price
Kontextfenster
Context Window
Preise
Intelligence Index vs. Price
Leistungsübersicht
Output Speed vs. Price
Geschwindigkeit
Gemessen anhand der Ausgabegeschwindigkeit (Tokens pro Sekunde)
Output Speed
Latenz
Gemessen anhand der Zeit (Sekunden) bis zum ersten Token
Latency: Time To First Answer Token
Ende-zu-Ende-Antwortzeit
Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed
End-to-End Response Time vs. Price
Weitere Analyse | |||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|
GLM-5.2 (max) (FP4) | 1.05M | Offen | 51 | $0.25 | 56 | 1.30 | 45.77 | 35.58 | |||
DeepSeek V4 Flash 0731 (max) | 1M | Offen | 50 | $0.06 | 73 | 0.83 | 35.23 | 27.52 | |||
MiniMax-M3 | 524k | Offen | 44 | $0.13 | 29 | 1.32 | 88.48 | 69.73 | |||
DeepSeek V4 Pro (max) (FP4) | 1.05M | Offen | 44 | $0.27 | 38 | 2.14 | 130.52 | 115.22 | |||
Kimi K2.6 (FP4) | 262k | Offen | 44 | $0.27 | 44 | 1.05 | 114.86 | 102.32 | |||
DeepSeek V4 Pro (high) (FP4) | 65.5k | Offen | 43 | $0.26 | 36 | 1.50 | 71.32 | 55.82 | |||
 MiMo-V2.5-Pro | 65.5k | Offen | 42 | $0.18 | 107 | 0.95 | 24.33 | 18.70 | |||
Kimi K2.7 Code | 262k | Offen | 42 | $0.18 | 100 | 0.76 | 28.10 | 22.33 | |||
 Hy3 (FP8) | 262k | Offen | 41 | $0.04 | 61 | 0.65 | 41.63 | 32.79 | |||
Inkling (FP8) | 131k | Offen | 41 | $0.43 | 190 | 0.71 | 13.89 | 10.54 | |||
DeepSeek V4 Flash (max) (FP4) | 1.05M | Offen | 40 | $0.05 | 42 | 1.00 | 147.89 | 134.87 | |||
Inkling Small | 524k | Offen | 40 | $0.15 | 134 | 0.68 | 19.37 | 14.95 | |||
GLM-5.1 (FP4) | 203k | Offen | 40 | $0.18 | 37 | 0.94 | 116.38 | 101.99 | |||
GLM-5 (FP4) | 203k | Offen | 40* | -- | 26 | 1.49 | 140.21 | 119.48 | |||
Nemotron 3 Ultra | 262k | Offen | 38 | $0.23 | 85 | 6.12 | 38.94 | 26.91 | |||
Nemotron 3 Ultra BF16 | 262k | Offen | 38 | -- | 97 | 6.22 | 34.82 | 23.45 | |||
DeepSeek V4 Flash (high) (FP4) | 1.05M | Offen | 37 | $0.03 | 41 | 1.11 | 43.28 | 30.05 | |||
MiMo-V2.5 | 262k | Offen | 37 | $0.08 | 56 | 0.88 | 45.48 | 35.68 | |||
Qwen3.6 27B FP8 | 262k | Offen | 37 | $0.19 | 65 | 1.11 | 96.84 | 87.98 | |||
Kimi K2.5 | 262k | Offen | 35 | $0.07 | 45 | 0.78 | 77.73 | 65.86 | |||
GLM-5.1 (FP4) | 203k | Offen | 35* | -- | 55 | 1.06 | 10.19 | -- | |||
Kimi K2.6 (FP4) | 262k | Offen | 35* | -- | 37 | 0.92 | 14.52 | -- | |||
Qwen3.5 27B (FP8) | 262k | Offen | 34* | -- | 62 | 0.96 | 41.08 | 32.10 | |||
GLM-4.7 (FP4) | 203k | Offen | 34 | $0.10 | 34 | 0.93 | 75.30 | 59.50 | |||
Qwen3.5 397B A17B (FP8) | 262k | Offen | 34 | $0.19 | 52 | 0.93 | 71.31 | 60.83 | |||
MiniMax-M2.5 (FP8) | 197k | Offen | 34* | -- | 45 | 0.81 | 56.68 | 44.69 | |||
GLM-5 (FP8) | 203k | Offen | 32* | -- | 25 | 1.30 | 21.04 | -- | |||
Qwen3.5 122B A10B (FP4) | 262k | Offen | 32 | $0.12 | 157 | 0.66 | 16.61 | 12.76 | |||
DeepSeek V3.2 (FP4) | 164k | Offen | 32 | $0.08 | 16 | 1.22 | 155.93 | 123.77 | |||
Qwen3.5 397B A17B (FP8) | 262k | Offen | 32* | -- | 44 | 0.92 | 12.19 | -- | |||
Qwen3.6 35B A3B (FP8) | 262k | Offen | 32 | $0.09 | 68 | 0.64 | 87.79 | 79.76 | |||
Qwen3.6 27B FP8 | 262k | Offen | 30 | $0.23 | 63 | 1.11 | 9.05 | -- | |||
Step 3.7 Flash | 256k | Offen | 30 | -- | 199 | 0.53 | 13.07 | 10.03 | |||
Gemma 4 31B | 262k | Offen | 29 | $0.01 | 28 | 1.50 | 82.35 | 62.77 | |||
Qwen3.5 27B FP8 | 262k | Offen | 29* | -- | 60 | 0.90 | 9.27 | -- | |||
Qwen3.5 35B A3B (FP8) | 262k | Offen | 29* | -- | 128 | 0.51 | 20.02 | 15.61 | |||
GLM-4.6 (FP4) | 203k | Offen | 29 | -- | 44 | 0.98 | 57.68 | 45.36 | |||
MiMo-V2.5-Pro | 65.5k | Offen | 28* | -- | 117 | 0.94 | 5.21 | -- | |||
Qwen3.5 122B A10B (FP4) | 262k | Offen | 28 | $0.09 | 185 | 0.66 | 3.36 | -- | |||
GLM-4.7 (FP4) | 203k | Offen | 27* | -- | 31 | 1.00 | 17.18 | -- | |||
Gemma 4 26B A4B | 262k | Offen | 26 | $0.03 | 31 | 0.76 | 82.60 | 65.47 | |||
NVIDIA Nemotron 3 Super | 262k | Offen | 25 | $0.10 | 56 | 20.65 | 65.21 | 35.65 | |||
DeepSeek V3.2 | 164k | Offen | 25* | -- | 13 | 1.37 | 38.42 | -- | |||
Qwen3.6 35B A3B (FP8) | 262k | Offen | 24 | $0.29 | 40 | 0.73 | 13.14 | -- | |||
Qwen3.5 35B A3B FP8 | 262k | Offen | 24 | $0.07 | 122 | 0.54 | 4.65 | -- | |||
gpt-oss-120b (high) | 131k | Offen | 24 | $0.02 | 45 | 0.61 | 55.79 | 44.15 | |||
gpt-oss-120b (high) (Turbo) | 131k | Offen | 24 | $0.08 | 180 | 0.69 | 14.58 | 11.11 | |||
GLM-4.7-Flash | 203k | Offen | 23* | -- | 51 | 0.78 | 50.18 | 39.52 | |||
Gemma 4 31B (FP8) | 262k | Offen | 22 | $0.03 | 26 | 1.49 | 20.49 | -- | |||
DeepSeek V3.1 Terminus (FP4) | 164k | Offen | 21* | -- | 61 | 0.69 | 8.90 | -- | |||
DeepSeek V3.1 (FP4) | 164k | Offen | 21* | -- | 10 | 1.11 | 49.56 | -- | |||
Gemma 4 26B A4B (FP8) | 262k | Offen | 20* | -- | 28 | 0.71 | 18.64 | -- | |||
Qwen3.5 4B (FP8) | 262k | Offen | 20* | -- | 32 | 0.67 | 78.55 | 62.30 | |||
DeepSeek R1 0528 | 164k | Offen | 20* | -- | 25 | 0.81 | 101.28 | 80.37 | |||
Qwen3 235B A22B 2507 (FP8) | 262k | Offen | 20 | -- | 48 | 1.04 | 52.62 | 41.27 | |||
Qwen3 235B 2507 (FP8) | 262k | Offen | 18* | -- | 18 | 0.68 | 28.70 | -- | |||
Qwen3 Coder 480B (Turbo, FP4) | 262k | Offen | 18* | -- | 52 | 0.80 | 10.46 | -- | |||
Qwen3.5 4B FP8 | 262k | Offen | 16* | -- | 19 | 0.96 | 26.91 | -- | |||
DeepSeek V3 0324 (FP4) | 164k | Offen | 15 | $0.03 | 35 | 1.69 | 15.85 | -- | |||
gpt-oss-20b (high) | 131k | Offen | 15 | $0.01 | 107 | 0.51 | 23.93 | 18.74 | |||
 Mistral Small 3.1 | 128k | Offen | 15 | $0.02 | 24 | 1.04 | 21.51 | -- | |||
Llama 4 Maverick (FP8) | 1.05M | Offen | 14 | $0.03 | 42 | 0.66 | 12.65 | -- | |||
NVIDIA Nemotron 3 Nano | 262k | Offen | 14 | $0.02 | 178 | 3.33 | 17.35 | 11.22 | |||
DeepSeek V3 (Dec) | 164k | Offen | 14 | $0.02 | 19 | 1.55 | 27.22 | -- | |||
Qwen3 Next 80B A3B | 262k | Offen | 14* | -- | 130 | 0.67 | 4.51 | -- | |||
Llama Nemotron Super 49B v1.5 | 131k | Offen | 12* | -- | 81 | 5.85 | 36.73 | 24.70 | |||
Gemma 4 E4B | 262k | Offen | 12 | $0.01 | 82 | 0.81 | 31.19 | 24.30 | |||
Qwen3 32B (FP8) | 41k | Offen | 12 | -- | 74 | 0.61 | 34.56 | 27.16 | |||
Mistral Small 3.2 (FP8) | 128k | Offen | 11 | $0.10 | 28 | 0.89 | 18.72 | -- | |||
Qwen3 14B (FP8) | 32.8k | Offen | 10 | -- | 45 | 0.87 | 56.93 | 44.85 | |||
Llama 4 Scout | 328k | Offen | 10 | $0.01 | 55 | 0.63 | 9.71 | -- | |||
DeepSeek R1 Distill Llama 70B | 131k | Offen | 10* | -- | 25 | 0.90 | 99.31 | 78.73 | |||
Qwen2.5 72B | 32.8k | Offen | 10* | -- | 26 | 5.09 | 24.01 | -- | |||
Llama 3.3 70B (Turbo, FP8) | 131k | Offen | 9 | $0.02 | 13 | 2.35 | 39.71 | -- | |||
Qwen3 30B (FP8) | 41k | Offen | 9* | -- | 79 | 0.55 | 32.01 | 25.17 | |||
NVIDIA Nemotron Nano 12B v2 VL (FP8) | 131k | Offen | 9* | -- | 86 | 7.19 | 36.26 | 23.26 | |||
Gemma 4 E4B | 262k | Offen | 9* | -- | 82 | 0.80 | 6.86 | -- | |||
NVIDIA Nemotron Nano 9B V2 | 131k | Offen | 9* | -- | 180 | 5.20 | 19.08 | 11.11 | |||
Llama Nemotron Super 49B v1.5 | 131k | Offen | 9* | -- | 98 | 6.45 | 11.53 | -- | |||
Qwen3 32B (FP8) | 41k | Offen | 9* | -- | 72 | 0.67 | 7.64 | -- | |||
Llama 3.1 Nemotron 70B | 131k | Offen | 8* | -- | 116 | 6.63 | 10.95 | -- | |||
Llama 3.1 8B (Turbo, FP8) | 131k | Offen | 8 | -- | 18 | 1.10 | 29.44 | -- | |||
Llama 3.1 8B | 131k | Offen | 8 | -- | 16 | 1.12 | 31.59 | -- | |||
Gemma 3 27B | 131k | Offen | 7 | $0.08 | 29 | 1.19 | 18.51 | -- | |||
NVIDIA Nemotron 3 Nano | 262k | Offen | 7* | -- | 177 | 0.43 | 3.26 | -- | |||
NVIDIA Nemotron Nano 9B V2 | 131k | Offen | 7* | -- | 181 | 3.91 | 6.68 | -- | |||
Qwen3 14B (FP8) | 41k | Offen | 7* | -- | 41 | 0.86 | 13.01 | -- | |||
Mistral Small 3 | 32.8k | Offen | 7* | -- | 60 | 0.81 | 9.18 | -- | |||
Qwen3 30B (FP8) | 41k | Offen | 7* | -- | 73 | 0.52 | 7.33 | -- | |||
Llama 3.1 70B | 131k | Offen | 7* | -- | 33 | 1.89 | 16.97 | -- | |||
Llama 3.1 70B (Turbo, FP8) | 131k | Offen | 7* | -- | 34 | 1.65 | 16.50 | -- | |||
Gemma 3 12B | 131k | Offen | 6 | $0.09 | 50 | 0.80 | 10.79 | -- | |||
 Hermes 3 - Llama-3.1 70B | 131k | Offen | 5* | -- | 33 | 1.97 | 17.20 | -- | |||
 Phi-4 | 16.4k | Offen | 5* | -- | 72 | 0.88 | 7.84 | -- | |||
NVIDIA Nemotron Nano 12B v2 VL (FP8) | 131k | Offen | 5* | -- | 87 | 5.54 | 11.28 | -- | |||
Llama 3.2 11B (Vision) | 131k | Offen | 3* | -- | 37 | 1.70 | 15.08 | -- | |||
Llama 3 8B | 8.19k | Offen | 1* | -- | -- | -- | -- | -- | |||
Gemma 3 4B | 131k | Offen | 1* | -- | 36 | 1.01 | 14.96 | -- | |||
Wichtige Definitionen
Häufig gestellte Fragen
Häufige Fragen zu DeepInfra
DeepInfra bietet 97 von uns erfasste Modelle an: GLM-5.2 (max) (FP4), DeepSeek V4 Flash 0731 (max), MiniMax-M3, DeepSeek V4 Pro (max) (FP4), Kimi K2.6 (FP4), DeepSeek V4 Pro (high) (FP4), MiMo-V2.5-Pro, Kimi K2.7 Code, Hy3 (FP8), Inkling (FP8), DeepSeek V4 Flash (max) (FP4), Inkling Small, GLM-5.1 (FP4), GLM-5 (FP4), Nemotron 3 Ultra, Nemotron 3 Ultra BF16, DeepSeek V4 Flash (high) (FP4), MiMo-V2.5, Qwen3.6 27B FP8, Kimi K2.5, GLM-5.1 (FP4), Kimi K2.6 (FP4), Qwen3.5 27B (FP8), GLM-4.7 (FP4), Qwen3.5 397B A17B (FP8), MiniMax-M2.5 (FP8), GLM-5 (FP8), Qwen3.5 122B A10B (FP4), DeepSeek V3.2 (FP4), Qwen3.5 397B A17B (FP8), Qwen3.6 35B A3B (FP8), Qwen3.6 27B FP8, Step 3.7 Flash, Gemma 4 31B, Qwen3.5 27B FP8, Qwen3.5 35B A3B (FP8), GLM-4.6 (FP4), MiMo-V2.5-Pro, Qwen3.5 122B A10B (FP4), GLM-4.7 (FP4), Gemma 4 26B A4B, NVIDIA Nemotron 3 Super, DeepSeek V3.2, Qwen3.6 35B A3B (FP8), Qwen3.5 35B A3B FP8, gpt-oss-120b (high), gpt-oss-120b (high) (Turbo), GLM-4.7-Flash, Gemma 4 31B (FP8), DeepSeek V3.1 Terminus (FP4), DeepSeek V3.1 (FP4), Gemma 4 26B A4B (FP8), Qwen3.5 4B (FP8), DeepSeek R1 0528, Qwen3 235B A22B 2507 (FP8), Qwen3 235B 2507 (FP8), Qwen3 Coder 480B (Turbo, FP4), Qwen3.5 4B FP8, DeepSeek V3 0324 (FP4), gpt-oss-20b (high), Mistral Small 3.1, Llama 4 Maverick (FP8), NVIDIA Nemotron 3 Nano, DeepSeek V3 (Dec), Qwen3 Next 80B A3B, Llama Nemotron Super 49B v1.5, Gemma 4 E4B, Qwen3 32B (FP8), Mistral Small 3.2 (FP8), Qwen3 14B (FP8), Llama 4 Scout, DeepSeek R1 Distill Llama 70B, Qwen2.5 72B, Llama 3.3 70B (Turbo, FP8), Qwen3 30B (FP8), NVIDIA Nemotron Nano 12B v2 VL (FP8), Gemma 4 E4B, NVIDIA Nemotron Nano 9B V2, Llama Nemotron Super 49B v1.5, Qwen3 32B (FP8), Llama 3.1 Nemotron 70B, Llama 3.1 8B (Turbo, FP8), Llama 3.1 8B, Gemma 3 27B, NVIDIA Nemotron 3 Nano, NVIDIA Nemotron Nano 9B V2, Qwen3 14B (FP8), Mistral Small 3, Qwen3 30B (FP8), Llama 3.1 70B, Llama 3.1 70B (Turbo, FP8), Gemma 3 12B, Hermes 3 - Llama-3.1 70B, Phi-4, NVIDIA Nemotron Nano 12B v2 VL (FP8), Llama 3.2 11B (Vision) und Gemma 3 4B.
Das intelligenteste bei DeepInfra verfügbare Modell ist GLM-5.2 (max) (FP4) mit einem Intelligence-Index-Wert von 51.
Gemessen an der Ausgabegeschwindigkeit ist Step 3.7 Flash mit 199.5 Tokens pro Sekunde das schnellste Modell von DeepInfra.
Das Modell von DeepInfra mit der kürzesten Zeit bis zum ersten Antworttoken ist NVIDIA Nemotron 3 Nano mit 0.43 s. Eine niedrigere Latenz bedeutet eine schnellere erste Antwort.
Gemessen am Mischpreis ist Llama 3.1 8B (Turbo, FP8) mit $0.02 pro 1 Mio. Tokens (Verhältnis von Cache-Treffern, Eingabe und Ausgabe: 7:2:1) das günstigste Modell von DeepInfra.
Die Preise der Modelle von DeepInfra unterscheiden sich bis zum 55-Fachen: von $0.02 pro 1 Mio. Tokens für Llama 3.1 8B (Turbo, FP8) bis $1.20 pro 1 Mio. Tokens für Llama 3.1 Nemotron 70B.
Ja, DeepInfra bietet eine OpenAI-kompatible API. Das erleichtert den Wechsel von OpenAI und die Verwendung bestehender Integrationen mit dem OpenAI SDK.
94 von 97 Modellen von DeepInfra unterstützen den JSON-Modus für strukturierte Ausgaben.
94 von 97 Modellen von DeepInfra unterstützen Funktionsaufrufe (Tool-Nutzung).
Ja, DeepInfra bietet 49 Reasoning-Modelle an: GLM-5.2 (max) (FP4), DeepSeek V4 Flash 0731 (max), MiniMax-M3, DeepSeek V4 Pro (max) (FP4), Kimi K2.6 (FP4), DeepSeek V4 Pro (high) (FP4), MiMo-V2.5-Pro, Kimi K2.7 Code, Hy3 (FP8), Inkling (FP8), DeepSeek V4 Flash (max) (FP4), Inkling Small, GLM-5.1 (FP4), GLM-5 (FP4), Nemotron 3 Ultra, Nemotron 3 Ultra BF16, DeepSeek V4 Flash (high) (FP4), MiMo-V2.5, Qwen3.6 27B FP8, Kimi K2.5, Qwen3.5 27B (FP8), GLM-4.7 (FP4), Qwen3.5 397B A17B (FP8), MiniMax-M2.5 (FP8), Qwen3.5 122B A10B (FP4), DeepSeek V3.2 (FP4), Qwen3.6 35B A3B (FP8), Step 3.7 Flash, Gemma 4 31B, Qwen3.5 35B A3B (FP8), GLM-4.6 (FP4), Gemma 4 26B A4B, NVIDIA Nemotron 3 Super, gpt-oss-120b (high), gpt-oss-120b (high) (Turbo), GLM-4.7-Flash, Qwen3.5 4B (FP8), DeepSeek R1 0528, Qwen3 235B A22B 2507 (FP8), gpt-oss-20b (high), NVIDIA Nemotron 3 Nano, Llama Nemotron Super 49B v1.5, Gemma 4 E4B, Qwen3 32B (FP8), Qwen3 14B (FP8), DeepSeek R1 Distill Llama 70B, Qwen3 30B (FP8), NVIDIA Nemotron Nano 12B v2 VL (FP8) und NVIDIA Nemotron Nano 9B V2. Reasoning-Modelle nutzen ausführliches Schlussfolgern, um komplexe Probleme vor der Antwort zu bearbeiten.
Ja, alle 97 Modelle von DeepInfra haben offene Gewichte.
Ja, die Leistung eines Anbieters kann sich aufgrund von Infrastrukturänderungen, Lastverteilung und Aktualisierungen im Laufe der Zeit verändern. Wir benchmarken alle Anbieter fortlaufend und zeigen historische Leistungstrends in den Diagrammen „Im Zeitverlauf“ an.
Berücksichtigen Sie bei der Auswahl eines Modells von DeepInfra die Intelligenz für qualitätssensible Aufgaben, die Ausgabegeschwindigkeit für durchsatzintensive Aufgaben, die Latenz für interaktive Anwendungen mit schnellen ersten Antworten, die Preise für kostensensible Workloads sowie Funktionen wie die Größe des Kontextfensters, den JSON-Modus und die Unterstützung von Funktionsaufrufen.