모델 19개

NVIDIA 모델: 지능, 성능 및 가격

Name: Artificial Analysis Intelligence Index
Creator: Artificial Analysis
License: https://artificialanalysis.ai/docs/legal/Terms-of-Use.pdf

NVIDIA

지능

Nemotron 3 Ultra

Nemotron 3.5 Lightning

Nemotron 3 Super

Nemotron Cascade 2 30B A3B

12*

Nemotron 3 Nano Omni 30B A3B

10*

Artificial Analysis Intelligence Index

* 추정치

속도

Nemotron 3.5 Lightning

288 토큰/초

Nemotron 3 Nano Omni 30B A3B

264 토큰/초

Nemotron 3 Nano (Non-reasoning)

234 토큰/초

NVIDIA Nemotron Nano 12B v2 VL (Non-reasoning)

202 토큰/초

Nemotron 3 Ultra

201 토큰/초

출력 속도

비용

Nemotron 3 Nano

$0.02

Nemotron 3.5 Lightning

Nemotron 3 Nano (Non-reasoning)

Intelligence Index 작업당

Artificial Analysis는 NVIDIA의 모델 19개를 벤치마크했습니다. 아래에서 이 모델들의 주요 지표를 비교합니다.

지능 부문에서 NVIDIA의 최고 모델은 Nemotron 3 Ultra 550B A55B (Reasoning)(23)입니다.
출력 속도가 가장 빠른 모델은 Nemotron 3.5 Lightning(288 토큰/초)입니다.
지연 시간 부문에서 첫 응답 토큰까지 걸리는 시간이 가장 짧은 모델은 NVIDIA Nemotron 3 Nano 30B A3B (Non-reasoning)(0.90초)입니다.
가격 부문에서 작업당 비용이 가장 낮은 모델은 NVIDIA Nemotron 3 Nano 30B A3B (Reasoning)($0.02)입니다. 모델 간 가격 차이는 최대 98배입니다.

지능

Artificial Analysis Intelligence Index

Artificial Analysis Intelligence Index v4.3.2 incorporates 10 evaluations: AA-Briefcase v1.1, GDPval-AA v2.1, AutomationBench-AA, Terminal-Bench 4.0, SciCode, Humanity's Last Exam, GDP.pdf, CritPt, AA-Omniscience, AA-LCR v1.1

Estimate (independent evaluation forthcoming)

Artificial Analysis Intelligence Index v4.3.2 includes: AA-Briefcase v1.1, GDPval-AA v2.1, AutomationBench-AA, Terminal-Bench 4.0, SciCode, Humanity's Last Exam, GDP.pdf, CritPt, AA-Omniscience, AA-LCR v1.1. See Intelligence Index methodology for further details, including a breakdown of each evaluation and how we run them.

Intelligence Index vs. Cost per Intelligence Index Task

Artificial Analysis Intelligence Index · Weighted average cost (USD) per Artificial Analysis Intelligence Index task

Most attractive quadrant

Pareto line

Weighted average cost per Intelligence Index task. Each evaluation’s cost is calculated from input, cache hit, cache write, reasoning, and answer token prices, divided by task count, and weighted by its Intelligence Index weight.

비용

Cost per Intelligence Index Task

Weighted average cost (USD) per Artificial Analysis Intelligence Index task, segmented by token type. Lower is better

속도 및 지연 시간

Output Speed

Output tokens per second · Higher is better

Tokens per second received while the model is generating tokens (ie. after first chunk has been received from the API for models which support streaming).

Figures represent performance of the model's first-party API or the median across providers where a first-party API is not available.

역량 점수

역량 지수

특정 역량 및 산업에서 모델의 성능을 측정

Finance & Accounting Index

Incorporates 7 evaluations: AA-Omniscience, GDPval-AA v2.1, AA-Briefcase v1.1, Humanity's Last Exam, AutomationBench-AA, AA-LCR v1.1, GDP.pdf · Higher is better

Strategy & Ops Index

Incorporates 6 evaluations: AA-Omniscience, GDPval-AA v2.1, AA-Briefcase v1.1, AutomationBench-AA, AA-LCR v1.1, GDP.pdf · Higher is better

Legal Index

Incorporates 7 evaluations: AA-Omniscience, GDPval-AA v2.1, AA-Briefcase v1.1, Humanity's Last Exam, AA-LCR v1.1, GDP.pdf, AutomationBench-AA · Higher is better

Healthcare & Medical Index

Incorporates 6 evaluations: AA-Omniscience, GDPval-AA v2.1, AA-Briefcase v1.1, MLCR-AA, Humanity's Last Exam, AutomationBench-AA · Higher is better

Engineering Index

Incorporates 6 evaluations: AA-Omniscience, Humanity's Last Exam, CritPt, GDPval-AA v2.1, AA-Briefcase v1.1, Terminal-Bench 4.0 · Higher is better

Economics Index

Incorporates 5 evaluations: AA-Omniscience, Humanity's Last Exam, GDPval-AA v2.1, AA-Briefcase v1.1, AA-LCR v1.1 · Higher is better

NVIDIA의 모든 릴리스

상세 정보

							웨이트		제공업체 벤치마크
Nemotron 3 Ultra 550B A55B (Reasoning)	NVIDIA	23	550B 추론 시 55B 활성	262k	US$0.5	201	🤗	+3	보기
Nemotron 3.5 Lightning	NVIDIA	13	31.6B 추론 시 3.6B 활성	1M	US$0.1	288	제공되지 않음	+3	보기
Nemotron 3 Super 120B A12B (Reasoning)	NVIDIA	13	120.6B 추론 시 12.7B 활성	1M	US$0.3	166	🤗		보기
Nemotron Cascade 2 30B A3B	NVIDIA	12	31.6B 추론 시 3B 활성	1M	-	-	🤗	-	보기
Nemotron 3 Nano Omni 30B A3B Reasoning	NVIDIA	10	30B 추론 시 3B 활성	256k	US$0.3	264	🤗		보기
Llama Nemotron Super 49B v1.5 (Reasoning)	NVIDIA	9	49B	128k	-	-	🤗	-	보기
Llama 3.3 Nemotron Super 49B v1 (Reasoning)	NVIDIA	9	49B	128k	-	-	🤗	-	보기
NVIDIA Nemotron 3 Nano 30B A3B (Reasoning)	NVIDIA	9	31.6B 추론 시 3.6B 활성	1M	US$0.1	182	🤗		보기
Llama 3.1 Nemotron Ultra 253B v1 (Reasoning)	NVIDIA	8	253B	128k	-	-	🤗	-	보기
NVIDIA Nemotron Nano 12B v2 VL (Reasoning)	NVIDIA	7	13.2B	128k	-	-	🤗	-	보기
NVIDIA Nemotron Nano 9B V2 (Reasoning)	NVIDIA	7	9B	131k	US$0.1	117	🤗		보기
NVIDIA Nemotron 3 Nano 4B	NVIDIA	7	4.0B	262k	-	-	🤗	-	보기
Llama Nemotron Super 49B v1.5 (Non-reasoning)	NVIDIA	7	49B	128k	-	-	🤗	-	보기
Llama 3.1 Nemotron Nano 4B v1.1 (Reasoning)	NVIDIA	7	4.5B	128k	-	-	🤗	-	보기
Llama 3.3 Nemotron Super 49B v1 (Non-reasoning)	NVIDIA	7	49B	128k	-	-	🤗	-	보기
Llama 3.1 Nemotron Instruct 70B	NVIDIA	7	70B	128k	-	-	🤗	-	보기
NVIDIA Nemotron 3 Nano 30B A3B (Non-reasoning)	NVIDIA	7	31.6B 추론 시 3.6B 활성	1M	US$0.1	234	🤗		보기
NVIDIA Nemotron Nano 9B V2 (Non-reasoning)	NVIDIA	7	9B	131k	US$0.1	163	🤗		보기
NVIDIA Nemotron Nano 12B v2 VL (Non-reasoning)	NVIDIA	6	13.2B	128k	US$0.2	202	🤗		보기

NVIDIA 모델: 지능, 성능 및 가격

지능

속도

비용

지능

Artificial Analysis Intelligence Index

Artificial Analysis Intelligence Index

Intelligence Index vs. Cost per Intelligence Index Task

Cost per Intelligence Index Task

Artificial Analysis Intelligence Index

비용

Cost per Intelligence Index Task

Cost per Intelligence Index Task

속도 및 지연 시간

Output Speed

Output Speed

Model Performance Representation

역량 점수

역량 지수

NVIDIA의 모든 릴리스

상세 정보