Dieses Modell ist veraltet. Wir messen die Leistung nur noch für die Standard-Workload mit 10.000 Eingabe-Tokens. Ergebnisse für andere Workloads sind historische Daten und werden nicht mehr aktualisiert.

Mistral hat eine neuere Version veröffentlicht: Mistral Small 3.2. Wir empfehlen, diese als Alternative in Betracht zu ziehen.

•

Open weights model

•

Released Dezember 2023

Mixtral 8x7B Instruct Benchmarking und Analyse von API-Anbietern

Modellvergleich

Diese Analyse soll Sie bei der Auswahl des besten API-Anbieters von Mixtral 8x7B Instruct für Ihren Anwendungsfall unterstützen.

Am schnellsten

#1
AmazonAmazon
25.0 t/s

Ausgabegeschwindigkeit

Insgesamt 1 Anbieter

Niedrigste Latenz

#1
AmazonAmazon
1.11 s

Zeit bis zum ersten Token

Insgesamt 1 Anbieter

Niedrigster Preis

#1
AmazonAmazon
$0.47

Mischpreis (pro 1 Mio. Tokens)

Insgesamt 1 Anbieter

Mixtral 8x7B ist über Amazon verfügbar.

Output tokens per second · Higher is better
Seconds to first answer token received · Lower is better
USD per 1M tokens (blended) · Lower is better

Preise

Preise: Cache-Treffer, Eingabe und Ausgabe

Price (USD per M Tokens) · Lower is better · 10,000 input tokens

Kosten pro Aufgabe des Intelligence Index

Weighted average cost (USD) per Intelligence Index task · Segmented by token type · Lower is better
No data available

Ausgabegeschwindigkeit im Vergleich zu Preis

Blended at 7:2:1 (cache-input-output) · Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant

Geschwindigkeit

Gemessen anhand der Ausgabegeschwindigkeit (Tokens pro Sekunde)

Ausgabegeschwindigkeit: Mixtral 8x7B Instruct

Ausgabegeschwindigkeit: Ausgabe-Token pro Sekunde · 10,000 input tokens

Zeit pro Aufgabe des Intelligence Index

Weighted average decode time (minutes) per Intelligence Index task · Excludes TTFT and overhead time · Lower is better
No data available

Kosten pro Aufgabe im Vergleich zu Zeit pro Aufgabe

Weighted average cost (USD) per Intelligence Index task · Weighted average decode time (minutes) per Intelligence Index task
Most attractive quadrant
No data available

Latenz

Gemessen anhand der Zeit (in Sekunden) bis zum ersten Token

Zeit bis zum ersten Token

Seconds to first token received · Lower is better · 10,000 input tokens

Ende-zu-Ende-Antwortzeit

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

Ende-zu-Ende-Antwortzeit

Seconds to output 500 tokens, including reasoning model 'thinking' time · Lower is better · 10,000 input tokens

Wichtige Vergleichsmetriken und API-Funktionen

Logo von Amazon BedrockAmazon Bedrock
32.8k
Offen
--
25
1.12
21.13
--

Häufig gestellte Fragen

Häufige Fragen zu den Anbietern von Mixtral 8x7B Instruct