이 모델은 더 이상 권장되지 않습니다. 기본 입력 토큰 1만 개 워크로드에 대해서만 성능 벤치마킹을 계속합니다. 다른 워크로드의 결과는 과거 데이터이며 더 이상 업데이트되지 않습니다.

NVIDIA에서 새 버전인 Nemotron 3.5 Super VL을 출시했습니다. 이 버전 사용을 고려해 보세요.

•

Open weights model

•

Released 2026년 3월

Nemotron 3 Super 120B A12B (Reasoning) API 제공업체 벤치마킹 및 분석

모델 비교

이 분석은 사용 사례에 가장 적합한 Nemotron 3 Super 120B A12B (Reasoning) API 제공업체를 선택하는 데 도움을 드립니다.

가장 빠름

#1
NebiusNebius
180.3 t/s
#2
Crusoe (FP8)Crusoe (FP8)
177.9 t/s
#3
DeepInfraDeepInfra
67.1 t/s

출력 속도

총 제공업체 3곳

가장 낮은 지연 시간

#1
Crusoe (FP8)Crusoe (FP8)
11.85 s
#2
NebiusNebius
12.46 s
#3
DeepInfraDeepInfra
40.07 s

첫 답변 토큰까지 걸린 시간

총 제공업체 3곳

가장 낮은 가격

#1
DeepInfraDeepInfra
$0.12
#2
NebiusNebius
$0.19
#3
Crusoe (FP8)Crusoe (FP8)
$0.40

혼합 가격(토큰 100만 개당)

총 제공업체 3곳

Nemotron 3 Super은 성능 특성과 가격이 서로 다른 API 제공업체 3곳에서 제공됩니다. 아래에서 제공업체별 주요 지표를 비교합니다.

  • 출력 속도가 가장 높은 제공업체는 Nebius(180.3 t/s), Crusoe (FP8)(177.9 t/s) 및 DeepInfra(67.1 t/s)입니다.
  • Crusoe (FP8)(11.85초), Nebius(12.46초) 및 DeepInfra(40.07초)의 첫 답변 토큰까지 걸린 시간이 가장 짧습니다.
  • DeepInfra(0.12), Nebius(0.19) 및 Crusoe (FP8)(0.40)의 토큰 100만 개당 혼합 가격이 가장 낮습니다.
Output tokens per second · Higher is better
Seconds to first answer token received · Lower is better
USD per 1M tokens (blended) · Lower is better

가격

가격: 캐시 적중, 입력 및 출력

Price (USD per M Tokens) · Lower is better · 10,000 input tokens

Intelligence Index 작업당 비용

Weighted average cost (USD) per Intelligence Index task · Segmented by token type · Lower is better

출력 속도와 가격

Blended at 7:2:1 (cache-input-output) · Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant
Pareto line

속도

출력 속도(초당 토큰 수)로 측정

출력 속도: Nemotron 3 Super 120B A12B (Reasoning)

출력 속도: 초당 출력 토큰 수 · 10,000 input tokens

Intelligence Index 작업당 시간

Weighted average decode time (minutes) per Intelligence Index task · Excludes TTFT and overhead time · Lower is better

작업당 비용과 작업당 시간

Weighted average cost (USD) per Intelligence Index task · Weighted average decode time (minutes) per Intelligence Index task
Most attractive quadrant
Pareto line

지연 시간

첫 토큰까지 걸린 시간(초)으로 측정

첫 답변 토큰까지 걸린 시간

Seconds to first token received · Lower is better · 10,000 input tokens

캐시 동작

캐시 적중률

캐시 가능한 입력 토큰 중 캐시에서 제공된 비율 · 최근 4주 중앙값, 2026년 9월 26일 갱신

작업당 비용와 캐시 적중률

Weighted average cost (USD) per Intelligence Index task · Cache hit rate: median of the last four weeks, updated Sep 26, 2026
Most attractive quadrant

종단 간 응답 시간

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

종단 간 응답 시간

Seconds to output 500 tokens, including reasoning model 'thinking' time · Lower is better · 10,000 input tokens

주요 비교 지표 및 API 기능

Crusoe 로고Crusoe
262k
오픈
$1.14
176
0.60
14.77
11.34
Nebius 로고Nebius
256k
오픈
$1.64
169
1.34
16.12
11.83
DeepInfra 로고DeepInfra
262k
오픈
$0.48
67
9.96
47.24
29.82

자주 묻는 질문

Nemotron 3 Super 120B A12B (Reasoning) 제공업체에 관한 일반적인 질문