NVIDIA-Modelle: Intelligenz, Leistung und Preis

Artificial Analysis hat 21 Modelle von NVIDIA gebenchmarkt. Unten werden die wichtigsten Kennzahlen dieser Modelle verglichen.

  • Bei der Intelligenz ist Nemotron 3.5 Super VL mit 26 das führende Modell von NVIDIA.
  • Bei der Ausgabegeschwindigkeit ist Nemotron 3.5 Super VL mit 409 Tokens/s das schnellste Modell.
  • Bei der Latenz bietet NVIDIA Nemotron 3 Nano 30B A3B (Non-reasoning) mit 0,56 s die kürzeste Zeit bis zum ersten Antwort-Token.
  • Beim Preis bietet NVIDIA Nemotron 3 Nano 30B A3B (Reasoning) mit $0.02 die niedrigsten Kosten pro Aufgabe. Die Preise unterscheiden sich zwischen den Modellen um einen Faktor von bis zu 34.

Intelligenz

Artificial Analysis Intelligence Index

Artificial Analysis Intelligence Index v4.3.2 incorporates 10 evaluations: AA-Briefcase v1.1, GDPval-AA v2.1, AutomationBench-AA, Terminal-Bench 4.0, SciCode, Humanity's Last Exam, GDP.pdf, CritPt, AA-Omniscience, AA-LCR v1.1
Estimate (independent evaluation forthcoming)

Intelligence Index vs. Kosten pro Aufgabe

Artificial Analysis Intelligence Index · Weighted average cost (USD) per Artificial Analysis Intelligence Index task
Most attractive quadrant
Pareto line

Kosten

Kosten pro Aufgabe des Intelligence Index

Weighted average cost (USD) per Intelligence Index task · Segmented by token type · Lower is better

Geschwindigkeit und Latenz

Ausgabegeschwindigkeit

Output tokens per second · Higher is better

Fähigkeitswerte

Fähigkeitsindizes

Misst die Leistung von Modellen bei bestimmten Fähigkeiten und in bestimmten Branchen
Finance & Accounting Index

Incorporates 7 evaluations: AA-Omniscience, GDPval-AA v2.1, AA-Briefcase v1.1, Humanity's Last Exam, AutomationBench-AA, AA-LCR v1.1, GDP.pdf · Higher is better

Strategy & Ops Index

Incorporates 6 evaluations: GDPval-AA v2.1, AA-Briefcase v1.1, AA-Omniscience, AutomationBench-AA, AA-LCR v1.1, GDP.pdf · Higher is better

Legal Index

Incorporates 7 evaluations: AA-Omniscience, GDPval-AA v2.1, AA-Briefcase v1.1, Humanity's Last Exam, AA-LCR v1.1, GDP.pdf, AutomationBench-AA · Higher is better

Healthcare & Medical Index

Incorporates 6 evaluations: AA-Omniscience, GDPval-AA v2.1, AA-Briefcase v1.1, MLCR-AA, Humanity's Last Exam, AutomationBench-AA · Higher is better

Engineering Index

Incorporates 6 evaluations: AA-Omniscience, Humanity's Last Exam, CritPt, GDPval-AA v2.1, AA-Briefcase v1.1, Terminal-Bench 4.0 · Higher is better

Economics Index

Incorporates 5 evaluations: AA-Omniscience, Humanity's Last Exam, GDPval-AA v2.1, AA-Briefcase v1.1, AA-LCR v1.1 · Higher is better

Alle Veröffentlichungen von NVIDIA

Weitere Details

Gewichte
Anbieter-Benchmarks
Nemotron 3.5 Super VL
Logo von NVIDIANVIDIA
26
120B
12B während der Inferenz aktiv
1M
0,1 $
409
PrimaLabsBasetenNebius
+4
Nemotron 3 Ultra 550B A55B (Reasoning)
Logo von NVIDIANVIDIA
23
550B
55B während der Inferenz aktiv
262k
0,5 $
137
CoreWeaveDeepInfraNebiusFireworks
Nemotron 3.5 Bolt 74B-A9B
Logo von NVIDIANVIDIA
21
74B
9B während der Inferenz aktiv
262k
-
-
-
Nemotron 3.5 Lightning
Logo von NVIDIANVIDIA
13
31.6B
3,6B während der Inferenz aktiv
1M
0,1 $
299
DeepInfraNebiusCoreWeave
+2
Nemotron 3 Super 120B A12B (Reasoning)
Logo von NVIDIANVIDIA
13
120.6B
12,7B während der Inferenz aktiv
1M
0,3 $
139
CrusoeNebiusDeepInfra
Nemotron Cascade 2 30B A3B
Logo von NVIDIANVIDIA
12
31.6B
3B während der Inferenz aktiv
1M
-
-
-
Nemotron 3 Nano Omni 30B A3B Reasoning
Logo von NVIDIANVIDIA
10
30B
3B während der Inferenz aktiv
256k
0,2 $
236
CrusoeDigitalOcean
Llama Nemotron Super 49B v1.5 (Reasoning)
Logo von NVIDIANVIDIA
9
49B
128k
-
-
-
Llama 3.3 Nemotron Super 49B v1 (Reasoning)
Logo von NVIDIANVIDIA
9
49B
128k
-
-
-
NVIDIA Nemotron 3 Nano 30B A3B (Reasoning)
Logo von NVIDIANVIDIA
9
31.6B
3,6B während der Inferenz aktiv
1M
0,1 $
252
NebiusNovitaDeepInfraCrusoe
Llama 3.1 Nemotron Ultra 253B v1 (Reasoning)
Logo von NVIDIANVIDIA
8
253B
128k
-
-
-
NVIDIA Nemotron Nano 12B v2 VL (Reasoning)
Logo von NVIDIANVIDIA
7
13.2B
128k
-
-
-
NVIDIA Nemotron Nano 9B V2 (Reasoning)
Logo von NVIDIANVIDIA
7
9B
131k
0,1 $
194
DeepInfra
Llama Nemotron Super 49B v1.5 (Non-reasoning)
Logo von NVIDIANVIDIA
7
49B
128k
-
-
-
Llama 3.1 Nemotron Nano 4B v1.1 (Reasoning)
Logo von NVIDIANVIDIA
7
4.5B
128k
-
-
-
Llama 3.3 Nemotron Super 49B v1 (Non-reasoning)
Logo von NVIDIANVIDIA
7
49B
128k
-
-
-
Llama 3.1 Nemotron Instruct 70B
Logo von NVIDIANVIDIA
7
70B
128k
-
-
-
NVIDIA Nemotron 3 Nano 30B A3B (Non-reasoning)
Logo von NVIDIANVIDIA
7
31.6B
3,6B während der Inferenz aktiv
1M
0,1 $
261
NovitaDeepInfraCrusoe
NVIDIA Nemotron Nano 9B V2 (Non-reasoning)
Logo von NVIDIANVIDIA
7
9B
131k
0,1 $
168
DeepInfraAmazon Bedrock
NVIDIA Nemotron Nano 12B v2 VL (Non-reasoning)
Logo von NVIDIANVIDIA
6
13.2B
128k
0,2 $
200
Amazon Bedrock
NVIDIA Nemotron 3 Nano 4B
Logo von NVIDIANVIDIA
5
4.0B
262k
-
-
-