Together AI: Intelligenz, Leistung und Preise der Modelle
Diese Analyse soll Sie bei der Auswahl des besten von Together AI angebotenen Modells für Ihren Anwendungsfall unterstützen.
Höchste Intelligenz
Intelligence Index
Insgesamt 19 Modelle
Am schnellsten
Ausgabegeschwindigkeit
Insgesamt 19 Modelle
Niedrigster Preis
Mischpreis (pro 1 Mio. Tokens)
Insgesamt 19 Modelle
Together AI bietet 19 Modelle mit jeweils unterschiedlichen Merkmalen bei Intelligenz, Leistung und Preis an. Nachfolgend werden die wichtigsten Metriken der Modelle verglichen.
- Bei der Intelligenz sind DeepSeek V4.1 Flash 1017 (max) (45), GLM-5.3 (max) (45) und Kimi K3 (max) (44) die führenden Modelle von Together AI.
- Bei der Ausgabegeschwindigkeit sind Nemotron 3.5 Super VL (NVFP4) (408 t/s), DeepSeek V4.1 Flash (max) (365 t/s) und DeepSeek V4.1 Flash 1017 (max) (339 t/s) am schnellsten. Die Geschwindigkeit unterscheidet sich deutlich zwischen den Modellen; der Unterschied zwischen dem schnellsten und dem langsamsten beträgt 53 %.
- Bei der Latenz bieten Qwen3.5 9B (non-reasoning) (FP8) (0.81 s), Llama 3.3 70B Turbo (1.83 s) und Nemotron 3.5 Super VL (NVFP4) (5.54 s) die kürzeste Zeit bis zum ersten Antworttoken.
- Beim Preis bieten Nemotron 3.5 Super VL (NVFP4) ($0.09), MiniMax-M3.1-Flash ($0.10) und GLM-5.3-Flash ($0.10) die niedrigsten Mischpreise pro 1 Mio. Tokens.
- Bei der Größe des Kontextfensters unterstützen DeepSeek V4.1 Flash 1017 (max) (1M), Kimi K3 (max) (1M) und MiniMax-M3.1-Flash (1M) die größten Kontextfenster von Together AI.
- Nemotron 3.5 Super VL (NVFP4) bietet sowohl die schnellste Ausgabe als auch die besten Preise und ist damit attraktiv für durchsatz- und kostensensible Anwendungen. DeepSeek V4.1 Flash 1017 (max) führt bei der Intelligenz für Aufgaben, die höchste Qualität erfordern.
Intelligenzevaluationen
Artificial Analysis Intelligence Index
Evaluations
Agentic knowledge work, Elo
Knowledge
1 - hallucination rate
Agentic SaaS workflows
Agentic real-world work tasks, Elo
Reasoning & knowledge
Professional document reasoning, All-pass
Agentic coding & terminal use
Long context reasoning
Coding
Physics reasoning
Agentic scientific research workflows in a terminal
Agentic software engineering in open-source repositories
Quantitative analysis on spreadsheets & documents
Legal agentic work, Hallucination-Gated All-Pass Rate
Agentic business operations
Agentic interactive 3D experiences, Elo
Kubernetes incident root-cause analysis
Medical long context reasoning
Visual reasoning
Rich, varied, well-crafted language
Well-structured, scannable, answer-first
Truthful, acknowledges uncertainty, non-sycophantic
Use of filler and generic language
Intelligence Index vs. Preis
Kontextfenster
Kontextfenster
Preise
Intelligence Index vs. Preis
Leistungsübersicht
Ausgabegeschwindigkeit vs. Preis
Geschwindigkeit
Gemessen anhand der Ausgabegeschwindigkeit (Tokens pro Sekunde)
Ausgabegeschwindigkeit
Latenz
Gemessen anhand der Zeit (Sekunden) bis zum ersten Token
Latenz: Zeit bis zum ersten Antworttoken
Cache-Verhalten
Cache-Trefferquote
Kosten pro Aufgabe vs. Cache-Trefferquote
Ende-zu-Ende-Antwortzeit
Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed
Ende-zu-Ende-Antwortzeit vs. Preis
Weitere Analyse | |||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|
DeepSeek V4.1 Flash 1017 (max) | 1.05M | Offen | 45 | $0.32 | 301 | 0.30 | 8.60 | 6.64 | |||
GLM-5.3 (max) | 1.05M | Offen | 45 | $1.97 | 141 | 0.75 | 18.43 | 14.14 | |||
Kimi K3 (max) | 1.05M | Offen | 44 | $2.16 | 55 | 1.07 | 46.58 | 36.41 | |||
GLM-5.3-Flash | 1.05M | Offen | 42 | $0.47 | 169 | 0.74 | 15.51 | 11.81 | |||
Qwen3.8 2.4T A95B | 262k | Offen | 40 | $2.09 | 118 | 1.07 | 22.20 | 16.91 | |||
DeepSeek V4.1 Flash (max) | 1.05M | Offen | 39 | $0.32 | 350 | 0.38 | 7.51 | 5.71 | |||
Muse Spark Open (xhigh) | 1.05M | Offen | 39 | $0.84 | 193 | 0.64 | 13.60 | 10.37 | |||
GLM-5.2 (max) | 262k | Offen | 34 | $0.88 | 265 | 1.17 | 10.58 | 7.53 | |||
Beam 1.0 (NVFP4) | 1.05M | Offen | 30 | $0.21 | 293 | 0.52 | 9.07 | 6.83 | |||
MiniMax-M3 | 1M | Offen | 29 | $0.58 | 85 | 0.84 | 30.20 | 23.49 | |||
Nemotron 3.5 Super VL (NVFP4) | 262k | Offen | 26 | $0.26 | 402 | 0.66 | 6.88 | 4.98 | |||
Inkling (xhigh) | 524k | Offen | 25 | $0.91 | 107 | 0.67 | 24.11 | 18.76 | |||
MiniMax-M2.5 (FP4) | 197k | Offen | 23* | -- | -- | -- | -- | -- | |||
GLM-4.7 | 203k | Offen | 22* | -- | -- | -- | -- | -- | |||
GLM-4.6 | 203k | Offen | 19* | -- | -- | -- | -- | -- | |||
Muse Glimmer (high) | 131k | Offen | 17 | $0.08 | 96 | 0.70 | 26.87 | 20.94 | |||
GLM-4.7 (non-reasoning) | 203k | Offen | 17* | -- | -- | -- | -- | -- | |||
GLM-4.6 (non-reasoning) | 203k | Offen | 15* | -- | -- | -- | -- | -- | |||
Apriel-v1.5-15B-Thinker | 131k | Offen | 14* | -- | -- | -- | -- | -- | |||
DeepSeek V3.1 (non-reasoning) | 131k | Offen | 14* | -- | -- | -- | -- | -- | |||
Qwen3.5 9B (non-reasoning) (FP8) | 262k | Offen | 13* | -- | 79 | 0.73 | 7.07 | -- | |||
DeepSeek R1 0528 | 164k | Offen | 13* | -- | -- | -- | -- | -- | |||
gpt-oss-120b (high) | 131k | Offen | 12 | $0.11 | 98 | 0.57 | 26.02 | 20.36 | |||
DeepSeek R1 (Jan) | 164k | Offen | 11 | $0.41 | -- | -- | -- | -- | |||
Qwen3.5 9B (FP8) | 262k | Offen | 11 | $0.27 | 80 | 0.76 | 32.19 | 25.14 | |||
GLM-4.5-Air (FP8) | 131k | Offen | 11* | -- | -- | -- | -- | -- | |||
gpt-oss-120b (low) | 131k | Offen | 10* | -- | 101 | 0.51 | 25.27 | 19.80 | |||
Llama 3.3 70B Turbo | 131k | Offen | 8* | -- | 64 | 1.83 | 9.67 | -- | |||
Wichtige Definitionen
Häufig gestellte Fragen
Häufige Fragen zu Together AI
Together AI bietet 19 von uns erfasste Modelle an: DeepSeek V4.1 Flash 1017 (max), GLM-5.3 (max), Kimi K3 (max), MiniMax-M3.1-Flash, GLM-5.3-Flash, Qwen3.8 2.4T A95B, DeepSeek V4.1 Flash (max), Muse Spark Open (xhigh), GLM-5.2 (max), Beam 1.0 (NVFP4), MiniMax-M3, Nemotron 3.5 Super VL (NVFP4), Inkling (xhigh), Muse Glimmer (high), Qwen3.5 9B (non-reasoning) (FP8), gpt-oss-120b (high), Qwen3.5 9B (FP8), gpt-oss-120b (low) und Llama 3.3 70B Turbo.
Das intelligenteste bei Together AI verfügbare Modell ist DeepSeek V4.1 Flash 1017 (max) mit einem Wert von 45 im Intelligence Index.
Gemessen an der Ausgabegeschwindigkeit ist Nemotron 3.5 Super VL (NVFP4) mit 407.7 Tokens pro Sekunde das schnellste Modell von Together AI.
Das Modell von Together AI mit der kürzesten Zeit bis zum ersten Antworttoken ist Qwen3.5 9B (non-reasoning) (FP8) mit 0.81 s. Eine niedrigere Latenz bedeutet eine schnellere erste Antwort.
Gemessen am Mischpreis ist Nemotron 3.5 Super VL (NVFP4) mit $0.09 pro 1 Mio. Tokens (Verhältnis von Cache-Treffern, Eingabe und Ausgabe: 7:2:1) das günstigste Modell von Together AI.
Die Preise der Modelle von Together AI unterscheiden sich bis zum 22-Fachen: von $0.09 pro 1 Mio. Tokens für Nemotron 3.5 Super VL (NVFP4) bis $2.08 pro 1 Mio. Tokens für Kimi K3 (max).
Ja, Together AI bietet eine OpenAI-kompatible API. Das erleichtert den Wechsel von OpenAI und die Verwendung bestehender Integrationen mit dem OpenAI SDK.
18 von 19 Modellen von Together AI unterstützen den JSON-Modus für strukturierte Ausgaben.
Ja, alle 19 Modelle von Together AI unterstützen Funktionsaufrufe (Tool-Nutzung).
Ja, Together AI bietet 17 Reasoning-Modelle an: DeepSeek V4.1 Flash 1017 (max), GLM-5.3 (max), Kimi K3 (max), MiniMax-M3.1-Flash, GLM-5.3-Flash, Qwen3.8 2.4T A95B, DeepSeek V4.1 Flash (max), Muse Spark Open (xhigh), GLM-5.2 (max), Beam 1.0 (NVFP4), MiniMax-M3, Nemotron 3.5 Super VL (NVFP4), Inkling (xhigh), Muse Glimmer (high), gpt-oss-120b (high), Qwen3.5 9B (FP8) und gpt-oss-120b (low). Reasoning-Modelle nutzen ausführliches Schlussfolgern, um komplexe Probleme vor der Antwort zu bearbeiten.
Ja, 18 von 19 Modellen von Together AI haben offene Gewichte: DeepSeek V4.1 Flash 1017 (max), GLM-5.3 (max), Kimi K3 (max), GLM-5.3-Flash, Qwen3.8 2.4T A95B, DeepSeek V4.1 Flash (max), Muse Spark Open (xhigh), GLM-5.2 (max), Beam 1.0 (NVFP4), MiniMax-M3, Nemotron 3.5 Super VL (NVFP4), Inkling (xhigh), Muse Glimmer (high), Qwen3.5 9B (non-reasoning) (FP8), gpt-oss-120b (high), Qwen3.5 9B (FP8), gpt-oss-120b (low) und Llama 3.3 70B Turbo.
Ja, die Leistung eines Anbieters kann sich aufgrund von Infrastrukturänderungen, Lastverteilung und Aktualisierungen im Laufe der Zeit verändern. Wir benchmarken alle Anbieter fortlaufend und zeigen historische Leistungstrends in den Diagrammen „Im Zeitverlauf“ an.
Berücksichtigen Sie bei der Auswahl eines Modells von Together AI die Intelligenz für qualitätssensible Aufgaben, die Ausgabegeschwindigkeit für durchsatzintensive Aufgaben, die Latenz für interaktive Anwendungen mit schnellen ersten Antworten, die Preise für kostensensible Workloads sowie Funktionen wie die Größe des Kontextfensters, den JSON-Modus und die Unterstützung von Funktionsaufrufen.