Nemotron 3.5 Lightning Benchmarking und Analyse von API-Anbietern
Diese Analyse soll Sie bei der Auswahl des besten API-Anbieters von Nemotron 3.5 Lightning für Ihren Anwendungsfall unterstützen.
Am schnellsten
Fireworks (BF16)
Crusoe (BF16)
Nebius (BF16)
CoreWeave (BF16)Ausgabegeschwindigkeit
Insgesamt 6 Anbieter
Niedrigste Latenz
Fireworks (BF16)Crusoe (BF16)Nebius (BF16)CoreWeave (BF16)Zeit bis zum ersten Antworttoken
Insgesamt 6 Anbieter
Niedrigster Preis
Fireworks (BF16)Crusoe (BF16)Nebius (BF16)CoreWeave (BF16)
DeepInfra (NVFP4)Mischpreis (pro 1 Mio. Tokens)
Insgesamt 6 Anbieter
Nemotron 3.5 Lightning ist über 6 API-Anbieter verfügbar, die jeweils unterschiedliche Leistungsmerkmale und Preise bieten. Im Folgenden werden die wichtigsten Metriken der Anbieter verglichen.
- Bei der Ausgabegeschwindigkeit führen Fireworks (BF16) (432.9 Tokens/s), Crusoe (BF16) (306.3 Tokens/s) und Nebius (BF16) (275.1 Tokens/s). Die Geschwindigkeit unterscheidet sich erheblich zwischen den Anbietern: Der Unterschied zwischen dem schnellsten und langsamsten beträgt 208 %.
- Bei der Latenz bieten Fireworks (BF16) (5.08 s), Crusoe (BF16) (6.98 s) und Nebius (BF16) (8.26 s) die niedrigste Zeit bis zum ersten Antworttoken.
- Bei den Preisen bieten Fireworks (BF16) (0.04), Crusoe (BF16) (0.05) und Nebius (BF16) (0.08) die niedrigsten Mischpreise pro 1 Mio. Tokens. Die Preise unterscheiden sich je nach Anbieter bis zum 4.1-Fachen.
- Fireworks (BF16) sticht als Gesamtführer hervor und belegt in allen drei Kategorien den ersten Platz: Geschwindigkeit, Latenz und Preis.
Wichtigste Ergebnisse
Aktualisierung: Der Standard-Workload für das Performance-Benchmarking wurde auf 10k Eingabetokens umgestellt, um Produktionsanwendungsfälle besser abzubilden. Oben können weiterhin andere Workloads ausgewählt werden.
Preise
Pricing: Cache Hit, Input, and Output
Pricing: Blended Price
Pricing: Cache Discount
Output Speed vs. Price
Geschwindigkeit
Gemessen anhand der Ausgabegeschwindigkeit (Tokens pro Sekunde)
Output Speed: Nemotron 3.5 Lightning
Latency vs. Output Speed
Latenz
Gemessen anhand der Zeit (in Sekunden) bis zum ersten Token
Zeit bis zum ersten Antworttoken
Ende-zu-Ende-Antwortzeit
Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed
Ende-zu-Ende-Antwortzeit
Wichtige Vergleichsmetriken und API-Funktionen
Häufig gestellte Fragen
Häufige Fragen zu den Anbietern von Nemotron 3.5 Lightning
Nemotron 3.5 Lightning ist über 6 API-Anbieter verfügbar: DeepInfra (NVFP4), Nebius (BF16), CoreWeave (BF16), Fireworks (BF16), Crusoe (BF16) und Bitdeer AI (BF16). Jeder Anbieter bietet unterschiedliche Leistungsmerkmale und Preise.
Nemotron 3.5 Lightning ist derzeit über 6 API-Anbieter, die wir bewerten und beobachten verfügbar.
Die nach Ausgabegeschwindigkeit schnellsten Anbieter für Nemotron 3.5 Lightning sind Fireworks (BF16) (432.9 Tokens/s), Crusoe (BF16) (306.3 Tokens/s) und Nebius (BF16) (275.1 Tokens/s). Die Ausgabegeschwindigkeit misst, wie schnell Tokens erzeugt werden, nachdem das Modell mit der Antwort begonnen hat.
Die Anbieter mit der niedrigsten Zeit bis zum ersten Antworttoken für Nemotron 3.5 Lightning sind Fireworks (BF16) (5.08s), Crusoe (BF16) (6.98s) und Nebius (BF16) (8.26s). Eine niedrigere Latenz bedeutet eine schnellere erste Reaktion.
Die nach Mischpreis günstigsten Anbieter für Nemotron 3.5 Lightning sind Fireworks (BF16) ($0.04 pro 1 Mio. Tokens), Crusoe (BF16) ($0.05 pro 1 Mio. Tokens) und Nebius (BF16) ($0.08 pro 1 Mio. Tokens). Der Mischpreis basiert auf einem Tokenverhältnis von 7:2:1 für Cache-Treffer, Eingabe und Ausgabe.
Die Anbieter mit dem niedrigsten Preis für Eingabetokens bei Nemotron 3.5 Lightning sind Fireworks (BF16) ($0.05 pro 1 Mio. Eingabetokens), Crusoe (BF16) ($0.05 pro 1 Mio. Eingabetokens) und Nebius (BF16) ($0.06 pro 1 Mio. Eingabetokens).
Die Anbieter mit dem niedrigsten Preis für Ausgabetokens bei Nemotron 3.5 Lightning sind DeepInfra (NVFP4) ($0.20 pro 1 Mio. Ausgabetokens), Fireworks (BF16) ($0.20 pro 1 Mio. Ausgabetokens) und Crusoe (BF16) ($0.20 pro 1 Mio. Ausgabetokens).
Die Preise für Nemotron 3.5 Lightning unterscheiden sich je nach Anbieter bis zum 4.1-Fachen. Am günstigsten ist Fireworks (BF16) mit $0.04 pro 1 Mio. Tokens, während Bitdeer AI (BF16) $0.15 pro 1 Mio. Tokens berechnet.
Die Ausgabegeschwindigkeit von Nemotron 3.5 Lightning unterscheidet sich erheblich zwischen den Anbietern. Fireworks (BF16) ist mit 432.9 Tokens/s am schnellsten und damit um den Faktor 3.1 schneller als CoreWeave (BF16) mit 140.4 Tokens/s.
Alle 6 Anbieter von Nemotron 3.5 Lightning unterstützen den JSON-Modus für strukturierte Ausgaben.
5 von 6 Anbietern unterstützen Funktionsaufrufe für Nemotron 3.5 Lightning: DeepInfra (NVFP4), Nebius (BF16), CoreWeave (BF16), Fireworks (BF16) und Bitdeer AI (BF16).
Fireworks (BF16) führt bei allen wichtigen Metriken für Nemotron 3.5 Lightning und bietet die höchste Geschwindigkeit, die niedrigste Latenz und den konkurrenzfähigsten Preis.
Berücksichtigen Sie bei der Wahl eines Anbieters für Nemotron 3.5 Lightning die Ausgabegeschwindigkeit für durchsatzintensive Aufgaben, die Latenz für interaktive Anwendungen mit schneller erster Reaktion, den Preis für kostensensible Workloads und API-Funktionen wie den JSON-Modus oder Funktionsaufrufe.
Ja, die Leistung eines Anbieters kann sich durch Änderungen an der Infrastruktur, Lastverteilung und Aktualisierungen im Laufe der Zeit verändern. Wir bewerten alle Anbieter fortlaufend und zeigen historische Leistungstrends in den Diagrammen „Im Zeitverlauf“ an.
Informationen zur Intelligenz, zu den Fähigkeiten und Modalitäten von Nemotron 3.5 Lightning sowie zum Vergleich mit anderen Modellen finden Sie auf der Modellübersichtsseite. Modellübersicht anzeigen