Open weights model

Released 2026年6月

Nemotron 3 Ultra 550B A55B (Reasoning) API 服务商基准测试与分析

模型比较

本分析旨在帮助你根据使用场景,选择 Nemotron 3 Ultra 550B A55B (Reasoning) 的最佳 API 服务商。

速度最快

#1
NebiusNebius
319.2 t/s
#2
CoreWeaveCoreWeave
301.8 t/s
#3
FireworksFireworks
170.7 t/s
#4
DeepInfra BF16DeepInfra BF16
144.2 t/s
#5
DeepInfraDeepInfra
142.9 t/s

输出速度

共 8 家服务商

延迟最低

#1
CoreWeaveCoreWeave
8.54 s
#2
NebiusNebius
9.50 s
#3
FireworksFireworks
13.97 s
#4
DeepInfra BF16DeepInfra BF16
18.81 s
#5
DeepInfraDeepInfra
19.40 s

首个答案 Token 延迟

共 8 家服务商

价格最低

#1
Blackbox AIBlackbox AI
$0.37
#2
CoreWeaveCoreWeave
$0.39
#3
DeepInfraDeepInfra
$0.39
#4
FireworksFireworks
$0.44
#5
Lightning AILightning AI
$0.49

每 100 万 token 的混合价格

共 8 家服务商

可通过 8 家 API 服务商使用 Nemotron 3 Ultra,每家服务商的性能特征和价格各不相同。下方对比了各服务商的关键指标。

  • 输出速度最快的服务商是 Nebius(319.2 t/s)、CoreWeave(301.8 t/s)和Fireworks(170.7 t/s)。 各服务商之间的速度差异显著,最快与最慢相差 123%。
  • 延迟方面,CoreWeave(8.54 秒)、Nebius(9.50 秒)和Fireworks(13.97 秒) 的首个答案 Token 延迟最低。
  • 价格方面,Blackbox AI(0.37)、CoreWeave(0.39)和DeepInfra(0.39) 每 100 万 token 的混合价格最低。 各服务商价格最多相差 3.3 倍。

亮点

Output tokens per second · Higher is better
Seconds · Lower is better
USD per 1M tokens (blended) · Lower is better

更新:默认性能基准测试工作负载已调整为 1 万个输入 token,以更贴近生产使用场景。你仍可在上方选择其他工作负载。

价格

Pricing: Cache Hit, Input, and Output

Price (USD per M Tokens) · Lower is better · 10,000 input tokens

Pricing: Blended Price

Blended at 7:2:1 (cache-input-output) · USD per 1M tokens (blended) · Lower is better

Pricing: Cache Discount

1 - (cache hit price / input price) · Higher is better

Output Speed vs. Price

Blended at 7:2:1 (cache-input-output) · Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant
Pareto line

速度

按输出速度(每秒 token 数)衡量

Output Speed: Nemotron 3 Ultra 550B A55B (Reasoning)

Output speed: output tokens per second · 10,000 input tokens

Latency vs. Output Speed

Latency: seconds to first token received · Output speed: output tokens per second · 10,000 input tokens
Most attractive quadrant
Pareto line

延迟

按首 Token 延迟(秒)衡量

首个答案 Token 延迟

Seconds to first token received · Lower is better · 10,000 input tokens

端到端响应时间

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

端到端响应时间

Seconds to output 500 tokens, including reasoning model 'thinking' time · Lower is better · 10,000 input tokens

关键比较指标与 API 功能

CoreWeave 标志CoreWeave
262k
开放
$0.19
302
1.00
10.20
7.54
GMI 标志GMI
262k
开放
--
--
--
--
--
DeepInfra 标志DeepInfra
262k
开放
$0.47
143
3.48
22.89
15.92
DeepInfra 标志DeepInfra
262k
开放
$0.92
144
3.04
22.28
15.77
Nebius 标志Nebius
256k
开放
$1.16
319
2.38
11.07
7.13
Lightning AI 标志Lightning AI
262k
开放
$0.48
--
--
--
--
Blackbox AI 标志Blackbox AI
262k
开放
$0.37
--
--
--
--
Fireworks 标志Fireworks
262k
开放
$0.22
171
0.65
16.90
13.33

常见问题

关于 Nemotron 3 Ultra 550B A55B (Reasoning) 服务商的常见问题