Dieses Modell ist veraltet. Wir messen die Leistung nur noch für die Standard-Workload mit 10.000 Eingabe-Tokens. Ergebnisse für andere Workloads sind historische Daten und werden nicht mehr aktualisiert.

Mistral hat eine neuere Version veröffentlicht: Mistral Small 3.2. Wir empfehlen, diese als Alternative in Betracht zu ziehen.

•

Open weights model

•

Released Dezember 2023

Mixtral 8x7B Instruct Benchmarking und Analyse von API-Anbietern

Modellvergleich

Diese Analyse soll Sie bei der Auswahl des besten API-Anbieters von Mixtral 8x7B Instruct für Ihren Anwendungsfall unterstützen.

Am schnellsten

#1
AmazonAmazon
25.3 t/s

Ausgabegeschwindigkeit

Insgesamt 1 Anbieter

Niedrigste Latenz

#1
AmazonAmazon
1.12 s

Zeit bis zum ersten Token

Insgesamt 1 Anbieter

Niedrigster Preis

#1
AmazonAmazon
$0.47

Mischpreis (pro 1 Mio. Tokens)

Insgesamt 1 Anbieter

Mixtral 8x7B ist über Amazon verfügbar.

Output tokens per second · Higher is better
Seconds to first answer token received · Lower is better
USD per 1M tokens (blended) · Lower is better

Preise

Preise: Cache-Treffer, Eingabe und Ausgabe

Price (USD per M Tokens) · Lower is better · 10,000 input tokens

Preise: Mischpreis

Blended at 7:2:1 (cache-input-output) · USD per 1M tokens (blended) · Lower is better

Ausgabegeschwindigkeit vs. Preis

Blended at 7:2:1 (cache-input-output) · Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant

Geschwindigkeit

Gemessen anhand der Ausgabegeschwindigkeit (Tokens pro Sekunde)

Ausgabegeschwindigkeit: Mixtral 8x7B Instruct

Ausgabegeschwindigkeit: Ausgabe-Token pro Sekunde · 10,000 input tokens

Latenz vs. Ausgabegeschwindigkeit

Latency: seconds to first token received · Output speed: output tokens per second · 10,000 input tokens
Most attractive quadrant

Latenz

Gemessen anhand der Zeit (in Sekunden) bis zum ersten Token

Zeit bis zum ersten Token

Seconds to first token received · Lower is better · 10,000 input tokens

Ende-zu-Ende-Antwortzeit

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

Ende-zu-Ende-Antwortzeit

Seconds to output 500 tokens, including reasoning model 'thinking' time · Lower is better · 10,000 input tokens

Wichtige Vergleichsmetriken und API-Funktionen

Logo von Amazon BedrockAmazon Bedrock
32.8k
Offen
--
25
1.13
21.10
--

Häufig gestellte Fragen

Häufige Fragen zu den Anbietern von Mixtral 8x7B Instruct