DeepInfra：模型智能、性能与价格
分析 DeepInfra 各模型的关键指标，包括质量、价格、输出速度、延迟、上下文窗口等。 本分析旨在帮助你根据使用场景，选择 DeepInfra 提供的最佳模型。
最智能
Intelligence Index
共 97 个模型
速度最快
输出速度
共 97 个模型
价格最低
每 100 万 token 的混合价格
共 97 个模型
DeepInfra 提供 97 个模型，每个模型的智能、性能和价格特征各不相同。 下方对比了各模型的关键指标。
- 智能方面，DeepInfra 上表现最好的模型是 GLM-5.2 (max) (FP4)（51）、DeepSeek V4 Flash 0731 (max)（50）和MiniMax-M3（44）。
- 输出速度方面，最快的模型是 Step 3.7 Flash（199 t/s）、Inkling (FP8)（190 t/s）和Qwen3.5 122B A10B (FP4)（185 t/s）。
- 延迟方面，NVIDIA Nemotron 3 Nano（0.43 秒）、Qwen3 30B (FP8)（0.52 秒）和Qwen3.5 35B A3B FP8（0.54 秒） 的首个答案 Token 延迟最低。
- 价格方面，Llama 3.1 8B (Turbo, FP8)（$0.02）、Llama 3.1 8B（$0.02）和Gemma 4 E4B（$0.03） 每 100 万 token 的混合价格最低。
- 上下文窗口方面，GLM-5.2 (max) (FP4)（1M）、DeepSeek V4 Pro (max) (FP4)（1M）和DeepSeek V4 Flash (max) (FP4)（1M） 支持 DeepInfra 上最大的上下文窗口。
亮点
智能评测
Artificial Analysis Intelligence Index
Intelligence Evaluations
Agentic real-world work tasks, (Elo-500)/2000
Agentic tool use
Agentic coding & terminal use
Coding
Reasoning & knowledge
Scientific reasoning
Physics reasoning
Knowledge
1 - hallucination rate
Long context reasoning
Agentic knowledge work, Elo
Agentic SaaS workflows
Legal agentic work, criterion pass rate
Agentic business operations
Instruction following
Long-horizon agentic tasks
Kubernetes incident root-cause analysis
Visual reasoning
Intelligence Index vs. Price
上下文窗口
Context Window
价格
Intelligence Index vs. Price
性能摘要
Output Speed vs. Price
速度
按输出速度（每秒 token 数）衡量
Output Speed
延迟
按首 Token 延迟（秒）衡量
Latency: Time To First Answer Token
端到端响应时间
Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed
End-to-End Response Time vs. Price
进一步分析 | |||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|
GLM-5.2 (max) (FP4) | 1.05M | 开放 | 51 | $0.25 | 56 | 1.30 | 45.77 | 35.58 | |||
DeepSeek V4 Flash 0731 (max) | 1M | 开放 | 50 | $0.06 | 73 | 0.83 | 35.23 | 27.52 | |||
MiniMax-M3 | 524k | 开放 | 44 | $0.13 | 29 | 1.32 | 88.48 | 69.73 | |||
DeepSeek V4 Pro (max) (FP4) | 1.05M | 开放 | 44 | $0.27 | 38 | 2.14 | 130.52 | 115.22 | |||
Kimi K2.6 (FP4) | 262k | 开放 | 44 | $0.27 | 44 | 1.05 | 114.86 | 102.32 | |||
DeepSeek V4 Pro (high) (FP4) | 65.5k | 开放 | 43 | $0.26 | 36 | 1.50 | 71.32 | 55.82 | |||
 MiMo-V2.5-Pro | 65.5k | 开放 | 42 | $0.18 | 107 | 0.95 | 24.33 | 18.70 | |||
Kimi K2.7 Code | 262k | 开放 | 42 | $0.18 | 100 | 0.76 | 28.10 | 22.33 | |||
 Hy3 (FP8) | 262k | 开放 | 41 | $0.04 | 61 | 0.65 | 41.63 | 32.79 | |||
Inkling (FP8) | 131k | 开放 | 41 | $0.43 | 190 | 0.71 | 13.89 | 10.54 | |||
DeepSeek V4 Flash (max) (FP4) | 1.05M | 开放 | 40 | $0.05 | 42 | 1.00 | 147.89 | 134.87 | |||
Inkling Small | 524k | 开放 | 40 | $0.15 | 134 | 0.68 | 19.37 | 14.95 | |||
GLM-5.1 (FP4) | 203k | 开放 | 40 | $0.18 | 37 | 0.94 | 116.38 | 101.99 | |||
GLM-5 (FP4) | 203k | 开放 | 40* | -- | 26 | 1.49 | 140.21 | 119.48 | |||
Nemotron 3 Ultra | 262k | 开放 | 38 | $0.23 | 85 | 6.12 | 38.94 | 26.91 | |||
Nemotron 3 Ultra BF16 | 262k | 开放 | 38 | -- | 97 | 6.22 | 34.82 | 23.45 | |||
DeepSeek V4 Flash (high) (FP4) | 1.05M | 开放 | 37 | $0.03 | 41 | 1.11 | 43.28 | 30.05 | |||
MiMo-V2.5 | 262k | 开放 | 37 | $0.08 | 56 | 0.88 | 45.48 | 35.68 | |||
Qwen3.6 27B FP8 | 262k | 开放 | 37 | $0.19 | 65 | 1.11 | 96.84 | 87.98 | |||
Kimi K2.5 | 262k | 开放 | 35 | $0.07 | 45 | 0.78 | 77.73 | 65.86 | |||
GLM-5.1 (FP4) | 203k | 开放 | 35* | -- | 55 | 1.06 | 10.19 | -- | |||
Kimi K2.6 (FP4) | 262k | 开放 | 35* | -- | 37 | 0.92 | 14.52 | -- | |||
Qwen3.5 27B (FP8) | 262k | 开放 | 34* | -- | 62 | 0.96 | 41.08 | 32.10 | |||
GLM-4.7 (FP4) | 203k | 开放 | 34 | $0.10 | 34 | 0.93 | 75.30 | 59.50 | |||
Qwen3.5 397B A17B (FP8) | 262k | 开放 | 34 | $0.19 | 52 | 0.93 | 71.31 | 60.83 | |||
MiniMax-M2.5 (FP8) | 197k | 开放 | 34* | -- | 45 | 0.81 | 56.68 | 44.69 | |||
GLM-5 (FP8) | 203k | 开放 | 32* | -- | 25 | 1.30 | 21.04 | -- | |||
Qwen3.5 122B A10B (FP4) | 262k | 开放 | 32 | $0.12 | 157 | 0.66 | 16.61 | 12.76 | |||
DeepSeek V3.2 (FP4) | 164k | 开放 | 32 | $0.08 | 16 | 1.22 | 155.93 | 123.77 | |||
Qwen3.5 397B A17B (FP8) | 262k | 开放 | 32* | -- | 44 | 0.92 | 12.19 | -- | |||
Qwen3.6 35B A3B (FP8) | 262k | 开放 | 32 | $0.09 | 68 | 0.64 | 87.79 | 79.76 | |||
Qwen3.6 27B FP8 | 262k | 开放 | 30 | $0.23 | 63 | 1.11 | 9.05 | -- | |||
Step 3.7 Flash | 256k | 开放 | 30 | -- | 199 | 0.53 | 13.07 | 10.03 | |||
Gemma 4 31B | 262k | 开放 | 29 | $0.01 | 28 | 1.50 | 82.35 | 62.77 | |||
Qwen3.5 27B FP8 | 262k | 开放 | 29* | -- | 60 | 0.90 | 9.27 | -- | |||
Qwen3.5 35B A3B (FP8) | 262k | 开放 | 29* | -- | 128 | 0.51 | 20.02 | 15.61 | |||
GLM-4.6 (FP4) | 203k | 开放 | 29 | -- | 44 | 0.98 | 57.68 | 45.36 | |||
MiMo-V2.5-Pro | 65.5k | 开放 | 28* | -- | 117 | 0.94 | 5.21 | -- | |||
Qwen3.5 122B A10B (FP4) | 262k | 开放 | 28 | $0.09 | 185 | 0.66 | 3.36 | -- | |||
GLM-4.7 (FP4) | 203k | 开放 | 27* | -- | 31 | 1.00 | 17.18 | -- | |||
Gemma 4 26B A4B | 262k | 开放 | 26 | $0.03 | 31 | 0.76 | 82.60 | 65.47 | |||
NVIDIA Nemotron 3 Super | 262k | 开放 | 25 | $0.10 | 56 | 20.65 | 65.21 | 35.65 | |||
DeepSeek V3.2 | 164k | 开放 | 25* | -- | 13 | 1.37 | 38.42 | -- | |||
Qwen3.6 35B A3B (FP8) | 262k | 开放 | 24 | $0.29 | 40 | 0.73 | 13.14 | -- | |||
Qwen3.5 35B A3B FP8 | 262k | 开放 | 24 | $0.07 | 122 | 0.54 | 4.65 | -- | |||
gpt-oss-120b (high) | 131k | 开放 | 24 | $0.02 | 45 | 0.61 | 55.79 | 44.15 | |||
gpt-oss-120b (high) (Turbo) | 131k | 开放 | 24 | $0.08 | 180 | 0.69 | 14.58 | 11.11 | |||
GLM-4.7-Flash | 203k | 开放 | 23* | -- | 51 | 0.78 | 50.18 | 39.52 | |||
Gemma 4 31B (FP8) | 262k | 开放 | 22 | $0.03 | 26 | 1.49 | 20.49 | -- | |||
DeepSeek V3.1 Terminus (FP4) | 164k | 开放 | 21* | -- | 61 | 0.69 | 8.90 | -- | |||
DeepSeek V3.1 (FP4) | 164k | 开放 | 21* | -- | 10 | 1.11 | 49.56 | -- | |||
Gemma 4 26B A4B (FP8) | 262k | 开放 | 20* | -- | 28 | 0.71 | 18.64 | -- | |||
Qwen3.5 4B (FP8) | 262k | 开放 | 20* | -- | 32 | 0.67 | 78.55 | 62.30 | |||
DeepSeek R1 0528 | 164k | 开放 | 20* | -- | 25 | 0.81 | 101.28 | 80.37 | |||
Qwen3 235B A22B 2507 (FP8) | 262k | 开放 | 20 | -- | 48 | 1.04 | 52.62 | 41.27 | |||
Qwen3 235B 2507 (FP8) | 262k | 开放 | 18* | -- | 18 | 0.68 | 28.70 | -- | |||
Qwen3 Coder 480B (Turbo, FP4) | 262k | 开放 | 18* | -- | 52 | 0.80 | 10.46 | -- | |||
Qwen3.5 4B FP8 | 262k | 开放 | 16* | -- | 19 | 0.96 | 26.91 | -- | |||
DeepSeek V3 0324 (FP4) | 164k | 开放 | 15 | $0.03 | 35 | 1.69 | 15.85 | -- | |||
gpt-oss-20b (high) | 131k | 开放 | 15 | $0.01 | 107 | 0.51 | 23.93 | 18.74 | |||
 Mistral Small 3.1 | 128k | 开放 | 15 | $0.02 | 24 | 1.04 | 21.51 | -- | |||
Llama 4 Maverick (FP8) | 1.05M | 开放 | 14 | $0.03 | 42 | 0.66 | 12.65 | -- | |||
NVIDIA Nemotron 3 Nano | 262k | 开放 | 14 | $0.02 | 178 | 3.33 | 17.35 | 11.22 | |||
DeepSeek V3 (Dec) | 164k | 开放 | 14 | $0.02 | 19 | 1.55 | 27.22 | -- | |||
Qwen3 Next 80B A3B | 262k | 开放 | 14* | -- | 130 | 0.67 | 4.51 | -- | |||
Llama Nemotron Super 49B v1.5 | 131k | 开放 | 12* | -- | 81 | 5.85 | 36.73 | 24.70 | |||
Gemma 4 E4B | 262k | 开放 | 12 | $0.01 | 82 | 0.81 | 31.19 | 24.30 | |||
Qwen3 32B (FP8) | 41k | 开放 | 12 | -- | 74 | 0.61 | 34.56 | 27.16 | |||
Mistral Small 3.2 (FP8) | 128k | 开放 | 11 | $0.10 | 28 | 0.89 | 18.72 | -- | |||
Qwen3 14B (FP8) | 32.8k | 开放 | 10 | -- | 45 | 0.87 | 56.93 | 44.85 | |||
Llama 4 Scout | 328k | 开放 | 10 | $0.01 | 55 | 0.63 | 9.71 | -- | |||
DeepSeek R1 Distill Llama 70B | 131k | 开放 | 10* | -- | 25 | 0.90 | 99.31 | 78.73 | |||
Qwen2.5 72B | 32.8k | 开放 | 10* | -- | 26 | 5.09 | 24.01 | -- | |||
Llama 3.3 70B (Turbo, FP8) | 131k | 开放 | 9 | $0.02 | 13 | 2.35 | 39.71 | -- | |||
Qwen3 30B (FP8) | 41k | 开放 | 9* | -- | 79 | 0.55 | 32.01 | 25.17 | |||
NVIDIA Nemotron Nano 12B v2 VL (FP8) | 131k | 开放 | 9* | -- | 86 | 7.19 | 36.26 | 23.26 | |||
Gemma 4 E4B | 262k | 开放 | 9* | -- | 82 | 0.80 | 6.86 | -- | |||
NVIDIA Nemotron Nano 9B V2 | 131k | 开放 | 9* | -- | 180 | 5.20 | 19.08 | 11.11 | |||
Llama Nemotron Super 49B v1.5 | 131k | 开放 | 9* | -- | 98 | 6.45 | 11.53 | -- | |||
Qwen3 32B (FP8) | 41k | 开放 | 9* | -- | 72 | 0.67 | 7.64 | -- | |||
Llama 3.1 Nemotron 70B | 131k | 开放 | 8* | -- | 116 | 6.63 | 10.95 | -- | |||
Llama 3.1 8B (Turbo, FP8) | 131k | 开放 | 8 | -- | 18 | 1.10 | 29.44 | -- | |||
Llama 3.1 8B | 131k | 开放 | 8 | -- | 16 | 1.12 | 31.59 | -- | |||
Gemma 3 27B | 131k | 开放 | 7 | $0.08 | 29 | 1.19 | 18.51 | -- | |||
NVIDIA Nemotron 3 Nano | 262k | 开放 | 7* | -- | 177 | 0.43 | 3.26 | -- | |||
NVIDIA Nemotron Nano 9B V2 | 131k | 开放 | 7* | -- | 181 | 3.91 | 6.68 | -- | |||
Qwen3 14B (FP8) | 41k | 开放 | 7* | -- | 41 | 0.86 | 13.01 | -- | |||
Mistral Small 3 | 32.8k | 开放 | 7* | -- | 60 | 0.81 | 9.18 | -- | |||
Qwen3 30B (FP8) | 41k | 开放 | 7* | -- | 73 | 0.52 | 7.33 | -- | |||
Llama 3.1 70B | 131k | 开放 | 7* | -- | 33 | 1.89 | 16.97 | -- | |||
Llama 3.1 70B (Turbo, FP8) | 131k | 开放 | 7* | -- | 34 | 1.65 | 16.50 | -- | |||
Gemma 3 12B | 131k | 开放 | 6 | $0.09 | 50 | 0.80 | 10.79 | -- | |||
 Hermes 3 - Llama-3.1 70B | 131k | 开放 | 5* | -- | 33 | 1.97 | 17.20 | -- | |||
 Phi-4 | 16.4k | 开放 | 5* | -- | 72 | 0.88 | 7.84 | -- | |||
NVIDIA Nemotron Nano 12B v2 VL (FP8) | 131k | 开放 | 5* | -- | 87 | 5.54 | 11.28 | -- | |||
Llama 3.2 11B (Vision) | 131k | 开放 | 3* | -- | 37 | 1.70 | 15.08 | -- | |||
Llama 3 8B | 8.19k | 开放 | 1* | -- | -- | -- | -- | -- | |||
Gemma 3 4B | 131k | 开放 | 1* | -- | 36 | 1.01 | 14.96 | -- | |||
关键定义
常见问题
关于 DeepInfra 的常见问题
DeepInfra 提供我们跟踪的 97 个模型：GLM-5.2 (max) (FP4)、DeepSeek V4 Flash 0731 (max)、MiniMax-M3、DeepSeek V4 Pro (max) (FP4)、Kimi K2.6 (FP4)、DeepSeek V4 Pro (high) (FP4)、MiMo-V2.5-Pro、Kimi K2.7 Code、Hy3 (FP8)、Inkling (FP8)、DeepSeek V4 Flash (max) (FP4)、Inkling Small、GLM-5.1 (FP4)、GLM-5 (FP4)、Nemotron 3 Ultra、Nemotron 3 Ultra BF16、DeepSeek V4 Flash (high) (FP4)、MiMo-V2.5、Qwen3.6 27B FP8、Kimi K2.5、GLM-5.1 (FP4)、Kimi K2.6 (FP4)、Qwen3.5 27B (FP8)、GLM-4.7 (FP4)、Qwen3.5 397B A17B (FP8)、MiniMax-M2.5 (FP8)、GLM-5 (FP8)、Qwen3.5 122B A10B (FP4)、DeepSeek V3.2 (FP4)、Qwen3.5 397B A17B (FP8)、Qwen3.6 35B A3B (FP8)、Qwen3.6 27B FP8、Step 3.7 Flash、Gemma 4 31B、Qwen3.5 27B FP8、Qwen3.5 35B A3B (FP8)、GLM-4.6 (FP4)、MiMo-V2.5-Pro、Qwen3.5 122B A10B (FP4)、GLM-4.7 (FP4)、Gemma 4 26B A4B、NVIDIA Nemotron 3 Super、DeepSeek V3.2、Qwen3.6 35B A3B (FP8)、Qwen3.5 35B A3B FP8、gpt-oss-120b (high)、gpt-oss-120b (high) (Turbo)、GLM-4.7-Flash、Gemma 4 31B (FP8)、DeepSeek V3.1 Terminus (FP4)、DeepSeek V3.1 (FP4)、Gemma 4 26B A4B (FP8)、Qwen3.5 4B (FP8)、DeepSeek R1 0528、Qwen3 235B A22B 2507 (FP8)、Qwen3 235B 2507 (FP8)、Qwen3 Coder 480B (Turbo, FP4)、Qwen3.5 4B FP8、DeepSeek V3 0324 (FP4)、gpt-oss-20b (high)、Mistral Small 3.1、Llama 4 Maverick (FP8)、NVIDIA Nemotron 3 Nano、DeepSeek V3 (Dec)、Qwen3 Next 80B A3B、Llama Nemotron Super 49B v1.5、Gemma 4 E4B、Qwen3 32B (FP8)、Mistral Small 3.2 (FP8)、Qwen3 14B (FP8)、Llama 4 Scout、DeepSeek R1 Distill Llama 70B、Qwen2.5 72B、Llama 3.3 70B (Turbo, FP8)、Qwen3 30B (FP8)、NVIDIA Nemotron Nano 12B v2 VL (FP8)、Gemma 4 E4B、NVIDIA Nemotron Nano 9B V2、Llama Nemotron Super 49B v1.5、Qwen3 32B (FP8)、Llama 3.1 Nemotron 70B、Llama 3.1 8B (Turbo, FP8)、Llama 3.1 8B、Gemma 3 27B、NVIDIA Nemotron 3 Nano、NVIDIA Nemotron Nano 9B V2、Qwen3 14B (FP8)、Mistral Small 3、Qwen3 30B (FP8)、Llama 3.1 70B、Llama 3.1 70B (Turbo, FP8)、Gemma 3 12B、Hermes 3 - Llama-3.1 70B、Phi-4、NVIDIA Nemotron Nano 12B v2 VL (FP8)、Llama 3.2 11B (Vision)和Gemma 3 4B。
DeepInfra 上最智能的模型是 GLM-5.2 (max) (FP4)，Intelligence Index 得分为 51。
按输出速度计算，DeepInfra 上最快的模型是 Step 3.7 Flash，速度为每秒 199.5 个 token。
DeepInfra 上首个答案 Token 延迟最低的模型是 NVIDIA Nemotron 3 Nano，延迟为 0.43 秒。延迟越低，初始响应越快。
按混合价格计算，DeepInfra 上最实惠的模型是 Llama 3.1 8B (Turbo, FP8)，每 100 万 token 的价格为 $0.02（缓存命中/输入/输出比例为 7:2:1）。
DeepInfra 上各模型价格最多相差 55 倍，从最实惠的 Llama 3.1 8B (Turbo, FP8)（每 100 万 token $0.02）到最昂贵的 Llama 3.1 Nemotron 70B（每 100 万 token $1.20）。
是，DeepInfra 提供兼容 OpenAI 的 API，可以轻松从 OpenAI 切换，或继续使用现有的 OpenAI SDK 集成。
DeepInfra 上 97 个模型中，有 94 个支持用于结构化输出的 JSON 模式。
DeepInfra 上 97 个模型中，有 94 个支持函数调用（工具使用）。
是，DeepInfra 提供 49 个推理模型：GLM-5.2 (max) (FP4)、DeepSeek V4 Flash 0731 (max)、MiniMax-M3、DeepSeek V4 Pro (max) (FP4)、Kimi K2.6 (FP4)、DeepSeek V4 Pro (high) (FP4)、MiMo-V2.5-Pro、Kimi K2.7 Code、Hy3 (FP8)、Inkling (FP8)、DeepSeek V4 Flash (max) (FP4)、Inkling Small、GLM-5.1 (FP4)、GLM-5 (FP4)、Nemotron 3 Ultra、Nemotron 3 Ultra BF16、DeepSeek V4 Flash (high) (FP4)、MiMo-V2.5、Qwen3.6 27B FP8、Kimi K2.5、Qwen3.5 27B (FP8)、GLM-4.7 (FP4)、Qwen3.5 397B A17B (FP8)、MiniMax-M2.5 (FP8)、Qwen3.5 122B A10B (FP4)、DeepSeek V3.2 (FP4)、Qwen3.6 35B A3B (FP8)、Step 3.7 Flash、Gemma 4 31B、Qwen3.5 35B A3B (FP8)、GLM-4.6 (FP4)、Gemma 4 26B A4B、NVIDIA Nemotron 3 Super、gpt-oss-120b (high)、gpt-oss-120b (high) (Turbo)、GLM-4.7-Flash、Qwen3.5 4B (FP8)、DeepSeek R1 0528、Qwen3 235B A22B 2507 (FP8)、gpt-oss-20b (high)、NVIDIA Nemotron 3 Nano、Llama Nemotron Super 49B v1.5、Gemma 4 E4B、Qwen3 32B (FP8)、Qwen3 14B (FP8)、DeepSeek R1 Distill Llama 70B、Qwen3 30B (FP8)、NVIDIA Nemotron Nano 12B v2 VL (FP8)和NVIDIA Nemotron Nano 9B V2。推理模型会先进行扩展思考来解决复杂问题，再给出答案。
是，DeepInfra 上全部 97 个模型均为开放权重模型。
会。服务商性能可能因基础设施变化、负载均衡和更新而随时间波动。我们持续对所有服务商进行基准测试，并在“随时间变化”图表中展示历史性能趋势。
选择 DeepInfra 上的模型时，请考虑：智能（适合质量敏感型任务）、输出速度（适合吞吐量密集型任务）、延迟（适合需要快速首次响应的交互式应用）、价格（适合成本敏感型工作负载），以及上下文窗口大小、JSON 模式或函数调用支持等功能。