DeepInfra: Intelligenz, Leistung und Preise der Modelle

Diese Analyse soll Sie bei der Auswahl des besten von DeepInfra angebotenen Modells für Ihren Anwendungsfall unterstützen.
Höchste Intelligenz
Intelligence Index
Insgesamt 71 Modelle
Kürzeste Zeit pro Aufgabe
Zeit pro Aufgabe des Intelligence Index (Minuten)
Insgesamt 71 Modelle
Niedrigster Preis
Mischpreis (pro 1 Mio. Tokens)
Insgesamt 71 Modelle
DeepInfra bietet 71 Modelle mit jeweils unterschiedlichen Merkmalen bei Intelligenz, Leistung und Preis an. Nachfolgend werden die wichtigsten Metriken der Modelle verglichen.
- Bei der Intelligenz sind Kimi K3.1 Pro (46), DeepSeek V4.1 Flash 1017 (max) (33) und GLM-5.3 (max) (32) die führenden Modelle von DeepInfra.
- Bei der Zeit pro Aufgabe erledigen Inkling Small (2.8 Min.), Nemotron 3.5 Lightning (NVFP4) (3.9 Min.) und Muse Glimmer (high) (4.0 Min.) eine Aufgabe des Intelligence Index auf DeepInfra am schnellsten. Die Zeit pro Aufgabe unterscheidet sich deutlich zwischen den Modellen; das langsamste benötigt 2.6-mal so lange wie das schnellste.
- Bei der Latenz bieten Qwen3 30B (non-reasoning) (FP8) (0.37 s), Phi-4 (0.58 s) und Mistral Small 3 (0.61 s) die kürzeste Zeit bis zum ersten Antworttoken.
- Beim Preis bieten Llama 3.1 8B (Turbo, FP8) ($0.02), Ling 3.0 Flash ($0.04) und DeepSeek V4 Flash 0731 (max) ($0.04) die niedrigsten Mischpreise pro 1 Mio. Tokens. Die Preise unterscheiden sich zwischen den Modellen bis zum 2.2-Fachen.
- Bei der Größe des Kontextfensters unterstützen Kimi K3.1 Pro (1M), DeepSeek V4 Pro (max) (FP4) (1M) und DeepSeek V4 Flash (max) (FP4) (1M) die größten Kontextfenster von DeepInfra.
Intelligenz
Artificial Analysis Intelligence Index
Evaluations
Agentic knowledge work, Elo
Knowledge
1 - hallucination rate
Agentic SaaS workflows
Agentic scientific research workflows in a terminal
Agentic software engineering in open-source repositories
Reasoning & knowledge
Professional document reasoning, All-pass
Agentic coding & terminal use
Physics reasoning
Quantitative analysis on spreadsheets & documents
Legal agentic work, Hallucination-Gated All-Pass Rate
Agentic business operations
Agentic real-world work tasks, Elo
Agentic interactive 3D experiences, Elo
Product and brand videos designed in code, Elo
Kubernetes incident root-cause analysis
Medical long context reasoning
Visual reasoning
Rich, varied, well-crafted language
Well-structured, scannable, answer-first
Truthful, acknowledges uncertainty, non-sycophantic
Use of filler and generic language
Intelligence Index vs. Preis
Preise
Kosten pro Aufgabe des Intelligence Index
Intelligence Index vs. Preis
Geschwindigkeit
Durchschnitt der gemessenen Workloads mit einzelnen Anfragen und agentischen Multi-Turn-Sitzungen
Zeit pro Aufgabe des Intelligence Index
Qualität
Endpoint Accuracy Index
Latenz
Durchschnitt der gemessenen Workloads mit einzelnen Anfragen und agentischen Multi-Turn-Sitzungen
Zeit bis zum ersten Antworttoken
Zuverlässigkeit
Anteil der fehlgeschlagenen Anfragen des Endpunkts über alle gemessenen Workloads mit einzelnen Anfragen und agentischen Multi-Turn-Sitzungen
Endpunkt-Fehlerrate
Caching
Cache-Trefferquote
Kosten pro Aufgabe vs. Cache-Trefferquote
Weitere Analyse | |||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|
Kimi K3.1 Pro | 46 | $4.39 | 25.3 | 101% | 89.35 | 17.1% | 1M | Offen | |||
DeepSeek V4.1 Flash 1017 (max) | 33 | $0.19 | 18.5 | 101% | 56.53 | 0.9% | 1M | Offen | |||
GLM-5.3 (max) | 32 | $2.39 | 22.8 | 96% | 70.56 | 0.0% | 1M | Offen | |||
Inkling 2 Small | 31 | $1.09 | 12.0 | k. A. | 20.64 | 0.0% | 262k | Offen | |||
MiMo-V2.6-Pro | 30 | $0.54 | 29.1 | k. A. | 39.44 | 1.4% | 1M | Offen | |||
GLM-5.3-Flash | 28 | $1.16 | 17.9 | 96% | 44.95 | 0.0% | 1M | Offen | |||
MiMo-V2.6-Flash | 27 | $0.13 | 32.0 | k. A. | 20.90 | 0.0% | 1M | Offen | |||
DeepSeek V4 Pro 0813 (max) | 23 | $2.98 | 27.6 | k. A. | 89.68 | 3.6% | 1M | Offen | |||
Qwen3.8 27B (xhigh) | 20 | $1.54 | 40.2 | k. A. | 132.73 | 1.0% | 262k | Offen | |||
MiniMax-M3 | 19 | $1.11 | 32.8 | k. A. | 54.51 | 2.3% | 524k | Offen | |||
Nemotron 3.5 Super VL | 14 | $0.35 | 4.4 | k. A. | 11.10 | 0.0% | 1M | Offen | |||
Inkling Small | 13 | $0.29 | 2.8 | k. A. | 13.13 | 0.0% | 524k | Offen | |||
Nemotron 3 Ultra | 12 | $1.74 | 7.2 | k. A. | 8.69 | 0.0% | 262k | Offen | |||
Muse Glimmer (high) | 6 | $0.13 | 4.0 | k. A. | 25.91 | 0.9% | 131k | Offen | |||
Nemotron 3.5 Lightning (NVFP4) | 6 | $0.31 | 3.9 | k. A. | 17.68 | 0.0% | 262k | Offen | |||
Granite 4.2 8B | 5 | $0.0405 | 8.6 | k. A. | 35.95 | 2.0% | 131k | Offen | |||
Gemma 4 31B | 4 | -- | -- | k. A. | 56.14 | 3.4% | 262k | Offen | |||
gpt-oss-120b (high) | 4 | $0.0868 | 73.0 | 98% | 84.16 | 13.2% | 131k | Offen | |||
Qwen3 Coder 480B (Turbo, FP4) | -- | -- | -- | k. A. | 6.68 | 0.0% | 262k | Offen | |||
Kimi K2.6 (FP4) | -- | -- | -- | k. A. | 143.93 | 0.0% | 262k | Offen | |||
Qwen3.5 397B A17B (FP8) | -- | -- | -- | k. A. | 46.96 | 0.9% | 262k | Offen | |||
Kimi K2.6 (non-reasoning) (FP4) | -- | -- | -- | k. A. | 3.20 | 2.2% | 262k | Offen | |||
Qwen3.5 27B (FP8) | -- | -- | -- | k. A. | 56.92 | 0.0% | 262k | Offen | |||
Gemma 3 4B | -- | -- | -- | k. A. | 1.43 | 0.0% | 131k | Offen | |||
Qwen3 Next 80B A3B | -- | -- | -- | k. A. | 1.32 | 0.0% | 262k | Offen | |||
Gemma 3 27B | -- | -- | -- | k. A. | 2.52 | 0.0% | 131k | Offen | |||
Gemma 3 12B | -- | -- | -- | k. A. | 1.93 | 0.0% | 131k | Offen | |||
Qwen3.5 397B A17B (non-reasoning) (FP8) | -- | -- | -- | k. A. | 6.58 | 1.7% | 262k | Offen | |||
Qwen3 235B 2507 (FP8) | -- | -- | -- | k. A. | 3.71 | 0.0% | 262k | Offen | |||
gpt-oss-20b (high) | -- | -- | -- | k. A. | 28.60 | 4.7% | 131k | Offen | |||
Qwen3.6 27B (non-reasoning) FP8 | -- | -- | -- | k. A. | 2.47 | 0.0% | 262k | Offen | |||
Qwen3 30B (FP8) | -- | -- | -- | k. A. | 10.69 | 0.0% | 41k | Offen | |||
Mistral Small 3.2 (FP8) | -- | -- | -- | k. A. | 2.86 | 0.0% | 128k | Offen | |||
DeepSeek V3 (Dec) | -- | -- | -- | k. A. | 3.58 | 0.0% | 164k | Offen | |||
Qwen3 14B (FP8) | -- | -- | -- | k. A. | 18.62 | 0.0% | 33k | Offen | |||
Qwen3.5 35B A3B (FP8) | -- | -- | -- | k. A. | 44.07 | 0.0% | 262k | Offen | |||
Qwen3.5 27B (non-reasoning) FP8 | -- | -- | -- | k. A. | 2.52 | 0.0% | 262k | Offen | |||
Nemotron 3 Super | -- | -- | -- | k. A. | 64.27 | 0.0% | 262k | Offen | |||
Qwen3.6 35B A3B (non-reasoning) (FP8) | -- | -- | -- | k. A. | 1.69 | 0.8% | 262k | Offen | |||
GLM-4.6 (FP4) | -- | -- | -- | k. A. | 42.56 | 8.6% | 203k | Offen | |||
DeepSeek V3.2 (non-reasoning) | -- | -- | -- | k. A. | 1.93 | 0.0% | 164k | Offen | |||
Gemma 4 26B A4B (FP8) | -- | -- | -- | k. A. | 32.91 | 0.7% | 262k | Offen | |||
GLM-4.7 (FP4) | -- | -- | -- | k. A. | 35.15 | 0.0% | 203k | Offen | |||
Gemma 4 26B A4B (non-reasoning) (FP8) | -- | -- | -- | k. A. | 1.26 | 0.0% | 262k | Offen | |||
Llama 3.1 8B (Turbo, FP8) | -- | -- | -- | k. A. | 3.11 | 2.3% | 131k | Offen | |||
DeepSeek V4 Flash Vision (max) | -- | -- | -- | k. A. | 45.48 | 0.0% | 1M | Proprietär | |||
GLM-4.7 (non-reasoning) (FP4) | -- | -- | -- | k. A. | 2.83 | 0.0% | 203k | Offen | |||
Qwen3.6 35B A3B (FP8) | -- | -- | -- | k. A. | 83.55 | 0.9% | 262k | Offen | |||
Qwen3.6 27B FP8 | -- | -- | -- | k. A. | 61.51 | 0.0% | 262k | Offen | |||
Llama 3.3 70B (Turbo, FP8) | -- | -- | -- | k. A. | 7.31 | 0.0% | 131k | Offen | |||
Kimi K2.5 | -- | -- | -- | k. A. | 144.85 | 9.4% | 262k | Offen | |||
DeepSeek R1 0528 | -- | -- | -- | k. A. | 76.32 | 0.0% | 164k | Offen | |||
Llama 4 Scout | -- | -- | -- | k. A. | 0.93 | 0.0% | 131k | Offen | |||
Qwen3 32B (FP8) | -- | -- | -- | k. A. | 20.93 | 0.0% | 41k | Offen | |||
Qwen2.5 72B | -- | -- | -- | k. A. | 17.66 | 0.0% | 33k | Offen | |||
DeepSeek V4 Pro (max) (FP4) | -- | -- | -- | k. A. | 35.20 | 0.0% | 1M | Offen | |||
Qwen3 32B (non-reasoning) (FP8) | -- | -- | -- | k. A. | 0.94 | 0.0% | 41k | Offen | |||
gpt-oss-120b (low) | -- | -- | -- | k. A. | 13.74 | 0.9% | 131k | Offen | |||
Gemma 4 31B (non-reasoning) (FP8) | -- | -- | -- | k. A. | 4.24 | 1.4% | 262k | Offen | |||
DeepSeek V3.2 (FP4) | -- | -- | -- | k. A. | 14.17 | 5.1% | 164k | Offen | |||
DeepSeek V4 Flash (max) (FP4) | -- | -- | -- | k. A. | 7.97 | 4.8% | 1M | Offen | |||
DeepSeek V4.1 Flash (max) | -- | -- | -- | k. A. | 30.95 | 0.0% | 1M | Offen | |||
Ling 3.0 Flash | -- | -- | -- | k. A. | 6.39 | 0.0% | 131k | Offen | |||
Mistral Small 3 | -- | -- | -- | k. A. | 0.61 | 0.0% | 33k | Offen | |||
Qwen3 14B (non-reasoning) (FP8) | -- | -- | -- | k. A. | 19.52 | 0.0% | 41k | Offen | |||
Phi-4 | -- | -- | -- | k. A. | 0.58 | 0.0% | 16k | Offen | |||
Qwen3.5 35B A3B (non-reasoning) FP8 | -- | -- | -- | k. A. | 1.06 | 0.0% | 262k | Offen | |||
Qwen3 30B (non-reasoning) (FP8) | -- | -- | -- | k. A. | 0.37 | 0.0% | 41k | Offen | |||
GLM-5.2 (max) (FP4) | -- | -- | -- | k. A. | 46.03 | 0.0% | 1M | Offen | |||
DeepSeek V3.1 (non-reasoning) (FP4) | -- | -- | -- | k. A. | 3.23 | 0.0% | 164k | Offen | |||
DeepSeek V4 Flash 0731 (max) | -- | -- | -- | k. A. | 19.92 | 8.9% | 1M | Offen | |||
Wichtige Definitionen
Häufig gestellte Fragen
Häufige Fragen zu DeepInfra
DeepInfra bietet 71 von uns erfasste Modelle an: Kimi K3.1 Pro, DeepSeek V4.1 Flash 1017 (max), GLM-5.3 (max), Inkling 2 Small, MiMo-V2.6-Pro, GLM-5.3-Flash, MiMo-V2.6-Flash, DeepSeek V4 Pro 0813 (max), Qwen3.8 27B (xhigh), MiniMax-M3, Nemotron 3.5 Super VL, Inkling Small, Nemotron 3 Ultra, Muse Glimmer (high), Nemotron 3.5 Lightning (NVFP4), Granite 4.2 8B, Gemma 4 31B, gpt-oss-120b (high), Qwen3 Coder 480B (Turbo, FP4), Kimi K2.6 (FP4), Qwen3.5 397B A17B (FP8), Kimi K2.6 (non-reasoning) (FP4), Qwen3.5 27B (FP8), Gemma 3 4B, Qwen3 Next 80B A3B, Gemma 3 27B, Gemma 3 12B, Qwen3.5 397B A17B (non-reasoning) (FP8), Qwen3 235B 2507 (FP8), gpt-oss-20b (high), Qwen3.6 27B (non-reasoning) FP8, Qwen3 30B (FP8), Mistral Small 3.2 (FP8), DeepSeek V3 (Dec), Qwen3 14B (FP8), Qwen3.5 35B A3B (FP8), Qwen3.5 27B (non-reasoning) FP8, Nemotron 3 Super, Qwen3.6 35B A3B (non-reasoning) (FP8), GLM-4.6 (FP4), DeepSeek V3.2 (non-reasoning), Gemma 4 26B A4B (FP8), GLM-4.7 (FP4), Gemma 4 26B A4B (non-reasoning) (FP8), Llama 3.1 8B (Turbo, FP8), DeepSeek V4 Flash Vision (max), GLM-4.7 (non-reasoning) (FP4), Qwen3.6 35B A3B (FP8), Qwen3.6 27B FP8, Llama 3.3 70B (Turbo, FP8), Kimi K2.5, DeepSeek R1 0528, Llama 4 Scout, Qwen3 32B (FP8), Qwen2.5 72B, DeepSeek V4 Pro (max) (FP4), Qwen3 32B (non-reasoning) (FP8), gpt-oss-120b (low), Gemma 4 31B (non-reasoning) (FP8), DeepSeek V3.2 (FP4), DeepSeek V4 Flash (max) (FP4), DeepSeek V4.1 Flash (max), Ling 3.0 Flash, Mistral Small 3, Qwen3 14B (non-reasoning) (FP8), Phi-4, Qwen3.5 35B A3B (non-reasoning) FP8, Qwen3 30B (non-reasoning) (FP8), GLM-5.2 (max) (FP4), DeepSeek V3.1 (non-reasoning) (FP4) und DeepSeek V4 Flash 0731 (max).
Das intelligenteste bei DeepInfra verfügbare Modell ist Kimi K3.1 Pro mit einem Wert von 46 im Intelligence Index.
Das Modell von DeepInfra mit der kürzesten Zeit pro Aufgabe ist Inkling Small mit 2.8 Minuten pro Aufgabe des Intelligence Index. Die Zeit pro Aufgabe ergibt sich aus den Ausgabetokens pro Aufgabe geteilt durch die Ende-zu-Ende-Ausgabegeschwindigkeit; ein niedrigerer Wert bedeutet, dass eine Aufgabe schneller abgeschlossen wird.
Das Modell von DeepInfra mit der kürzesten Zeit bis zum ersten Antworttoken ist Qwen3 30B (non-reasoning) (FP8) mit 0.37 s. Eine niedrigere Latenz bedeutet eine schnellere erste Antwort.
Gemessen am Mischpreis ist Llama 3.1 8B (Turbo, FP8) mit $0.022 pro 1 Mio. Tokens (Verhältnis von Cache-Treffern, Eingabe und Ausgabe: 7:2:1) das günstigste Modell von DeepInfra.
Die Preise der Modelle von DeepInfra unterscheiden sich bis zum 66.4-Fachen: von $0.022 pro 1 Mio. Tokens für Llama 3.1 8B (Turbo, FP8) bis $1.46 pro 1 Mio. Tokens für Kimi K3.1 Pro.
Ja, DeepInfra bietet eine OpenAI-kompatible API. Das erleichtert den Wechsel von OpenAI und die Verwendung bestehender Integrationen mit dem OpenAI SDK.
Ja, alle 71 Modelle von DeepInfra unterstützen den JSON-Modus für strukturierte Ausgaben.
69 von 71 Modellen von DeepInfra unterstützen Funktionsaufrufe (Tool-Nutzung).
Ja, DeepInfra bietet 43 Reasoning-Modelle an: Kimi K3.1 Pro, DeepSeek V4.1 Flash 1017 (max), GLM-5.3 (max), Inkling 2 Small, MiMo-V2.6-Pro, GLM-5.3-Flash, MiMo-V2.6-Flash, DeepSeek V4 Pro 0813 (max), Qwen3.8 27B (xhigh), MiniMax-M3, Nemotron 3.5 Super VL, Inkling Small, Nemotron 3 Ultra, Muse Glimmer (high), Nemotron 3.5 Lightning (NVFP4), Granite 4.2 8B, Gemma 4 31B, gpt-oss-120b (high), Kimi K2.6 (FP4), Qwen3.5 397B A17B (FP8), Qwen3.5 27B (FP8), gpt-oss-20b (high), Qwen3 30B (FP8), Qwen3 14B (FP8), Qwen3.5 35B A3B (FP8), Nemotron 3 Super, GLM-4.6 (FP4), Gemma 4 26B A4B (FP8), GLM-4.7 (FP4), DeepSeek V4 Flash Vision (max), Qwen3.6 35B A3B (FP8), Qwen3.6 27B FP8, Kimi K2.5, DeepSeek R1 0528, Qwen3 32B (FP8), DeepSeek V4 Pro (max) (FP4), gpt-oss-120b (low), DeepSeek V3.2 (FP4), DeepSeek V4 Flash (max) (FP4), DeepSeek V4.1 Flash (max), Ling 3.0 Flash, GLM-5.2 (max) (FP4) und DeepSeek V4 Flash 0731 (max). Reasoning-Modelle nutzen ausführliches Schlussfolgern, um komplexe Probleme vor der Antwort zu bearbeiten.
Ja, 70 von 71 Modellen von DeepInfra haben offene Gewichte: Kimi K3.1 Pro, DeepSeek V4.1 Flash 1017 (max), GLM-5.3 (max), Inkling 2 Small, MiMo-V2.6-Pro, GLM-5.3-Flash, MiMo-V2.6-Flash, DeepSeek V4 Pro 0813 (max), Qwen3.8 27B (xhigh), MiniMax-M3, Nemotron 3.5 Super VL, Inkling Small, Nemotron 3 Ultra, Muse Glimmer (high), Nemotron 3.5 Lightning (NVFP4), Granite 4.2 8B, Gemma 4 31B, gpt-oss-120b (high), Qwen3 Coder 480B (Turbo, FP4), Kimi K2.6 (FP4), Qwen3.5 397B A17B (FP8), Kimi K2.6 (non-reasoning) (FP4), Qwen3.5 27B (FP8), Gemma 3 4B, Qwen3 Next 80B A3B, Gemma 3 27B, Gemma 3 12B, Qwen3.5 397B A17B (non-reasoning) (FP8), Qwen3 235B 2507 (FP8), gpt-oss-20b (high), Qwen3.6 27B (non-reasoning) FP8, Qwen3 30B (FP8), Mistral Small 3.2 (FP8), DeepSeek V3 (Dec), Qwen3 14B (FP8), Qwen3.5 35B A3B (FP8), Qwen3.5 27B (non-reasoning) FP8, Nemotron 3 Super, Qwen3.6 35B A3B (non-reasoning) (FP8), GLM-4.6 (FP4), DeepSeek V3.2 (non-reasoning), Gemma 4 26B A4B (FP8), GLM-4.7 (FP4), Gemma 4 26B A4B (non-reasoning) (FP8), Llama 3.1 8B (Turbo, FP8), GLM-4.7 (non-reasoning) (FP4), Qwen3.6 35B A3B (FP8), Qwen3.6 27B FP8, Llama 3.3 70B (Turbo, FP8), Kimi K2.5, DeepSeek R1 0528, Llama 4 Scout, Qwen3 32B (FP8), Qwen2.5 72B, DeepSeek V4 Pro (max) (FP4), Qwen3 32B (non-reasoning) (FP8), gpt-oss-120b (low), Gemma 4 31B (non-reasoning) (FP8), DeepSeek V3.2 (FP4), DeepSeek V4 Flash (max) (FP4), DeepSeek V4.1 Flash (max), Ling 3.0 Flash, Mistral Small 3, Qwen3 14B (non-reasoning) (FP8), Phi-4, Qwen3.5 35B A3B (non-reasoning) FP8, Qwen3 30B (non-reasoning) (FP8), GLM-5.2 (max) (FP4), DeepSeek V3.1 (non-reasoning) (FP4) und DeepSeek V4 Flash 0731 (max).
Ja, die Leistung eines Anbieters kann sich aufgrund von Infrastrukturänderungen, Lastverteilung und Aktualisierungen im Laufe der Zeit verändern. Wir benchmarken alle Anbieter fortlaufend und zeigen historische Leistungstrends in den Diagrammen „Im Zeitverlauf“ an.
Berücksichtigen Sie bei der Auswahl eines Modells von DeepInfra die Intelligenz für qualitätssensible Aufgaben, die Zeit pro Aufgabe, also wie schnell das Modell eine Aufgabe des Intelligence Index erledigt, die Latenz für interaktive Anwendungen mit schnellen ersten Antworten, die Preise für kostensensible Workloads sowie Funktionen wie die Größe des Kontextfensters, den JSON-Modus und die Unterstützung von Funktionsaufrufen.