••

Open weights model

•

Released August 2025

NVIDIA Nemotron Nano 9B V2 (Non-reasoning) Benchmarking und Analyse von API-Anbietern

Modellvergleich

Diese Analyse soll Sie bei der Auswahl des besten API-Anbieters von NVIDIA Nemotron Nano 9B V2 (Non-reasoning) für Ihren Anwendungsfall unterstützen.

Am schnellsten

#1
AmazonAmazon
166.9 t/s
#2
DeepInfraDeepInfra
19.8 t/s

Ausgabegeschwindigkeit

Insgesamt 2 Anbieter

Niedrigste Latenz

#1
AmazonAmazon
1.15 s
#2
DeepInfraDeepInfra
47.51 s

Zeit bis zum ersten Token

Insgesamt 2 Anbieter

Niedrigster Preis

#1
DeepInfraDeepInfra
$0.05
#2
AmazonAmazon
$0.08

Mischpreis (pro 1 Mio. Tokens)

Insgesamt 2 Anbieter

NVIDIA Nemotron Nano 9B V2 (non-reasoning) ist über 2 API-Anbieter verfügbar, die jeweils unterschiedliche Leistungsmerkmale und Preise bieten. Im Folgenden werden die wichtigsten Metriken der Anbieter verglichen.

  • Bei der Ausgabegeschwindigkeit führen Amazon (166.9 Tokens/s) und DeepInfra (19.8 Tokens/s).
  • Bei der Latenz bieten Amazon (1.15 s) und DeepInfra (47.51 s) die niedrigste Zeit bis zum ersten Token.
  • Bei den Preisen bieten DeepInfra (0.05) und Amazon (0.08) die niedrigsten Mischpreise pro 1 Mio. Tokens.
  • Amazon bietet mit der höchsten Geschwindigkeit und der niedrigsten Latenz die beste Leistung. Für eine Kostenoptimierung bietet DeepInfra den konkurrenzfähigsten Preis.
Output tokens per second · Higher is better
Seconds to first answer token received · Lower is better
USD per 1M tokens (blended) · Lower is better

Aktualisierung: Der Standard-Workload für das Performance-Benchmarking wurde auf 10k Eingabetokens umgestellt, um Produktionsanwendungsfälle besser abzubilden. Oben können weiterhin andere Workloads ausgewählt werden.

Preise

Preise: Cache-Treffer, Eingabe und Ausgabe

Price (USD per M Tokens) · Lower is better · 10,000 input tokens

Preise: Mischpreis

Blended at 7:2:1 (cache-input-output) · USD per 1M tokens (blended) · Lower is better

Ausgabegeschwindigkeit vs. Preis

Blended at 7:2:1 (cache-input-output) · Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant
Pareto line

Geschwindigkeit

Gemessen anhand der Ausgabegeschwindigkeit (Tokens pro Sekunde)

Ausgabegeschwindigkeit: NVIDIA Nemotron Nano 9B V2 (Non-reasoning)

Ausgabegeschwindigkeit: Ausgabe-Token pro Sekunde · 10,000 input tokens

Latenz vs. Ausgabegeschwindigkeit

Latency: seconds to first token received · Output speed: output tokens per second · 10,000 input tokens
Most attractive quadrant

Latenz

Gemessen anhand der Zeit (in Sekunden) bis zum ersten Token

Zeit bis zum ersten Token

Seconds to first token received · Lower is better · 10,000 input tokens

Ende-zu-Ende-Antwortzeit

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

Ende-zu-Ende-Antwortzeit

Seconds to output 500 tokens, including reasoning model 'thinking' time · Lower is better · 10,000 input tokens

Wichtige Vergleichsmetriken und API-Funktionen

Logo von DeepInfraDeepInfra
131k
Offen
--
95
6.95
12.21
--
Logo von Amazon BedrockAmazon Bedrock
131k
Offen
--
166
1.16
4.17
--

Häufig gestellte Fragen

Häufige Fragen zu den Anbietern von NVIDIA Nemotron Nano 9B V2 (Non-reasoning)