Dieses Modell ist veraltet. Wir messen seine Leistung weiterhin, aber seltener: alle 18 Stunden statt alle 6.
Mistral hat eine neuere Version veröffentlicht: Mistral Small 3.2. Wir empfehlen, diese als Alternative in Betracht zu ziehen.
Mixtral 8x7B Instruct: Analyse von Intelligenz, Leistung und Preis
Verfügbare Anbieter
Modellübersicht
Ausführlichkeit
Mixtral 8x7B Instruct unterstützt Text als Eingabe und Text als Ausgabe. Das Kontextfenster umfasst 33k Tokens.
Der Preis für Mixtral 8x7B Instruct beträgt $0.45 pro 1 Mio. Eingabetokens (moderat bepreist; Median: $0.45) und $0.70 pro 1 Mio. Ausgabetokens (moderat bepreist; Median: $0.71).
| Reasoning | Nein |
|---|---|
| Eingabemodalität | Unterstützt: Text |
| Ausgabemodalität | Unterstützt: Text |
| Kontextfenster | 33k ~49 A4-Seiten in Arial mit Schriftgröße 12 |
| Gesamtparameter | 46.7B |
| Aktive Parameter | 12.9B Anzahl der pro Token während der Inferenz aktiven Parameter |
| Lizenz | Apache 2.0 |
| Modellgewichte | Hugging Face |
Metriken werden mit Modellen derselben Klasse verglichen:
- Modelle ohne Reasoning → Vergleich nur mit anderen Modellen ohne Reasoning
- Reasoning-Modelle → Vergleich mit Reasoning-Modellen und Modellen ohne Reasoning
- Modelle mit offenen Gewichten → Vergleich nur mit anderen Modellen mit offenen Gewichten derselben Größenklasse:
- Sehr klein: ≤4B Parameter
- Klein: 4B–40B Parameter
- Mittel: 40B–150B Parameter
- Groß: >150B Parameter
- Proprietäre Modelle → Vergleich mit proprietären Modellen und Modellen mit offenen Gewichten derselben Preisklasse anhand eines Mischpreisverhältnisses von 3:1 für Eingabe/Ausgabe:
- <$0.15 pro 1 Mio. Tokens
- $0.15–$1 pro 1 Mio. Tokens
- >$1 pro 1 Mio. Tokens
Intelligenz
Artificial Analysis Intelligence Index
Artificial Analysis Intelligence Index: Open Weights vs. proprietär
Intelligence Index vs. Kosten pro Aufgabe
Openness Index
Artificial Analysis Openness Index: Wert
Kosten
Kosten pro Aufgabe des Intelligence Index
Kosten für die Durchführung des Artificial Analysis Intelligence Index
Preise: Cache-Treffer, Eingabe und Ausgabe
Leistung
Gemessen an der Zeit pro Aufgabe (Minuten), der Ausgabegeschwindigkeit (Tokens pro Sekunde), der Zeit bis zum ersten Antworttoken und der Zeit bis zum ersten Token (Sekunden)
Zeit pro Aufgabe des Intelligence Index
Ausgabegeschwindigkeit
Zeit bis zum ersten Antworttoken
Kontextfenster
Kontextfenster
Modellgröße (nur Modelle mit offenen Gewichten)
Modellgröße: Gesamtparameter und aktive Parameter
Weitere Details
Gewichte | |||||||||
|---|---|---|---|---|---|---|---|---|---|
| Mixtral 8x7B Instruct | - | 46.7B 12.9B während der Inferenz aktiv | 33k | $0.47 | - | 55 |
Häufig gestellte Fragen
Häufige Fragen zu Mixtral 8x7B Instruct
Mixtral 8x7B Instruct wurde am 11. Dezember 2023 veröffentlicht.
Mixtral 8x7B Instruct wurde von Mistral entwickelt.
Mixtral 8x7B Instruct hat eine Zeit bis zum ersten Antworttoken von 0.76 s (auf Grundlage des Medians aller Anbieter, die das Modell bereitstellen). Dies ist sehr konkurrenzfähig im Vergleich zu anderen Modellen ohne Reasoning mit offenen Gewichten ähnlicher Größe (Median: 1.76 s).
Mixtral 8x7B Instruct kostet $0.45 pro 1 Mio. Eingabetokens (besser als der Durchschnitt; Median: $0.45) und $0.70 pro 1 Mio. Ausgabetokens (besser als der Durchschnitt; Median: $0.71). Die Angaben basieren auf dem Median aller Anbieter, die das Modell bereitstellen.
Mixtral 8x7B Instruct kostet $0.45 pro 1 Mio. Eingabetokens und $0.70 pro 1 Mio. Ausgabetokens (auf Grundlage des Medians aller Anbieter, die das Modell bereitstellen). Bei einem Mischpreis mit einem Verhältnis von 7:2:1 für Cache-Treffer, Eingabe und Ausgabe entspricht dies $0.47 pro 1 Mio. Tokens. Der Preis kann je nach Anbieter variieren. Preise der Anbieter vergleichen
Nein, Mixtral 8x7B Instruct ist kein Reasoning-Modell. Es antwortet direkt, ohne längeres Chain-of-Thought-Reasoning.
Mixtral 8x7B Instruct unterstützt Text als Eingabe.
Mixtral 8x7B Instruct unterstützt Text als Ausgabe.
Nein, Mixtral 8x7B Instruct unterstützt keine Bildeingaben. Es kann nur Text verarbeiten.
Nein, Mixtral 8x7B Instruct ist nicht multimodal. Es unterstützt nur Text als Eingabe.
Mixtral 8x7B Instruct hat ein Kontextfenster von 33k Tokens. Es bestimmt, wie viel Text und Gesprächsverlauf das Modell in einer einzelnen Anfrage verarbeiten kann.
Ja, Mixtral 8x7B Instruct hat offene Gewichte. Die Modellgewichte sind öffentlich verfügbar und können zum Selbsthosten heruntergeladen werden.
Mixtral 8x7B Instruct hat 46.7B Parameter (12.9B aktiv).
Mixtral 8x7B Instruct ist ein Mixture-of-Experts-Modell (MoE) mit insgesamt 46.7B Parametern, von denen während der Inferenz jedoch nur 12.9B aktiv sind.
Mixtral 8x7B Instruct wird unter der Lizenz Apache 2.0 veröffentlicht. Diese Lizenz erlaubt die kommerzielle Nutzung. Lizenz anzeigen
Ja, Mixtral 8x7B Instruct ist über 1 Anbieter per API verfügbar. API-Anbieter vergleichen
Mixtral 8x7B Instruct ist über 1 API-Anbieter verfügbar. Anbieter vergleichen