Dieses Modell ist veraltet. Wir messen die Leistung nur noch für die Standard-Workload mit 10.000 Eingabe-Tokens. Ergebnisse für andere Workloads sind historische Daten und werden nicht mehr aktualisiert.
Nous Research hat eine neuere Version veröffentlicht: Hermes 4 - Llama-3.1 70B. Wir empfehlen, diese als Alternative in Betracht zu ziehen.
Hermes 3 - Llama-3.1 70B Benchmarking und Analyse von API-Anbietern
Diese Analyse soll Sie bei der Auswahl des besten API-Anbieters von Hermes 3 - Llama-3.1 70B für Ihren Anwendungsfall unterstützen.
Am schnellsten
DeepInfraAusgabegeschwindigkeit
Insgesamt 1 Anbieter
Niedrigste Latenz
DeepInfraZeit bis zum ersten Token
Insgesamt 1 Anbieter
Niedrigster Preis
DeepInfraMischpreis (pro 1 Mio. Tokens)
Insgesamt 1 Anbieter
Hermes 3 - Llama-3.1 70B ist über DeepInfra verfügbar.
Preise
Preise: Cache-Treffer, Eingabe und Ausgabe
Preise: Mischpreis
Ausgabegeschwindigkeit vs. Preis
Geschwindigkeit
Gemessen anhand der Ausgabegeschwindigkeit (Tokens pro Sekunde)
Ausgabegeschwindigkeit: Hermes 3 - Llama-3.1 70B
Latenz vs. Ausgabegeschwindigkeit
Latenz
Gemessen anhand der Zeit (in Sekunden) bis zum ersten Token
Zeit bis zum ersten Token
Ende-zu-Ende-Antwortzeit
Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed
Ende-zu-Ende-Antwortzeit
Wichtige Vergleichsmetriken und API-Funktionen
Häufig gestellte Fragen
Häufige Fragen zu den Anbietern von Hermes 3 - Llama-3.1 70B
Hermes 3 - Llama-3.1 70B ist über 1 API-Anbieter verfügbar: DeepInfra. Jeder Anbieter bietet unterschiedliche Leistungsmerkmale und Preise.
Hermes 3 - Llama-3.1 70B ist derzeit über 1 API-Anbieter, den wir bewerten und beobachten verfügbar.
Der nach Ausgabegeschwindigkeit schnellste Anbieter für Hermes 3 - Llama-3.1 70B ist DeepInfra (31.1 Tokens/s). Die Ausgabegeschwindigkeit misst, wie schnell Tokens erzeugt werden, nachdem das Modell mit der Antwort begonnen hat.
Der Anbieter mit der niedrigsten Zeit bis zum ersten Token für Hermes 3 - Llama-3.1 70B ist DeepInfra (2.18s). Eine niedrigere Latenz bedeutet eine schnellere erste Reaktion.
Der nach Mischpreis günstigste Anbieter für Hermes 3 - Llama-3.1 70B ist DeepInfra ($0.70 pro 1 Mio. Tokens). Der Mischpreis basiert auf einem Tokenverhältnis von 7:2:1 für Cache-Treffer, Eingabe und Ausgabe.
Der Anbieter mit dem niedrigsten Preis für Eingabetokens bei Hermes 3 - Llama-3.1 70B ist DeepInfra ($0.70 pro 1 Mio. Eingabetokens).
Der Anbieter mit dem niedrigsten Preis für Ausgabetokens bei Hermes 3 - Llama-3.1 70B ist DeepInfra ($0.70 pro 1 Mio. Ausgabetokens).
Der einzige Anbieter von Hermes 3 - Llama-3.1 70B unterstützt den JSON-Modus für strukturierte Ausgaben.
DeepInfra führt bei allen wichtigen Metriken für Hermes 3 - Llama-3.1 70B und bietet die höchste Geschwindigkeit, die niedrigste Latenz und den konkurrenzfähigsten Preis.
Berücksichtigen Sie bei der Wahl eines Anbieters für Hermes 3 - Llama-3.1 70B die Ausgabegeschwindigkeit für durchsatzintensive Aufgaben, die Latenz für interaktive Anwendungen mit schneller erster Reaktion, den Preis für kostensensible Workloads und API-Funktionen wie den JSON-Modus oder Funktionsaufrufe.
Ja, die Leistung eines Anbieters kann sich durch Änderungen an der Infrastruktur, Lastverteilung und Aktualisierungen im Laufe der Zeit verändern. Wir bewerten alle Anbieter fortlaufend und zeigen historische Leistungstrends in den Diagrammen „Im Zeitverlauf“ an.
Informationen zur Intelligenz, zu den Fähigkeiten und Modalitäten von Hermes 3 - Llama-3.1 70B sowie zum Vergleich mit anderen Modellen finden Sie auf der Modellübersichtsseite. Modellübersicht anzeigen