Baseten:模型智能、性能与价格
本分析旨在帮助你根据使用场景,选择 Baseten 提供的最佳模型。
最智能
Intelligence Index
共 21 个模型
速度最快
输出速度
共 21 个模型
价格最低
每 100 万 token 的混合价格
共 21 个模型
Baseten 提供 21 个模型,每个模型的智能、性能和价格特征各不相同。 下方对比了各模型的关键指标。
- 智能方面,Baseten 上表现最好的模型是 DeepSeek V4.1 Flash 1017 (max)(45)、DeepSeek V4.1 Flash 1017 (max) (FAST)(45)和GLM-5.3 (max)(45)。
- 输出速度方面,最快的模型是 DeepSeek V4.1 Flash (non-reasoning) (FAST)(897 t/s)、DeepSeek V4.1 Flash 1017 (max) (FAST)(837 t/s)和DeepSeek V4.1 Flash (max) (FAST)(824 t/s)。 各模型之间的速度差异显著,最快与最慢相差 68%。
- 延迟方面,GLM-5.2 (non-reasoning) (FAST)(0.75 秒)、DeepSeek V4.1 Flash (non-reasoning) (FAST)(0.89 秒)和GLM-5.2 (non-reasoning)(1.74 秒) 的首个答案 Token 延迟最低。
- 价格方面,DeepSeek V4 Flash 0731 (max)($0.07)、GLM-5.3-Flash($0.10)和Nemotron 3.5 Super VL($0.12) 每 100 万 token 的混合价格最低。
- 上下文窗口方面,DeepSeek V4.1 Flash 1017 (max) (FAST)(1M)、GLM-5.3 (max)(1M)和Kimi K3 (max)(1M) 支持 Baseten 上最大的上下文窗口。
智能评测
Artificial Analysis Intelligence Index
Evaluations
Agentic knowledge work, Elo
Knowledge
1 - hallucination rate
Agentic SaaS workflows
Agentic real-world work tasks, Elo
Reasoning & knowledge
Professional document reasoning, All-pass
Agentic coding & terminal use
Long context reasoning
Coding
Physics reasoning
Agentic scientific research workflows in a terminal
Agentic software engineering in open-source repositories
Quantitative analysis on spreadsheets & documents
Legal agentic work, Hallucination-Gated All-Pass Rate
Agentic business operations
Agentic interactive 3D experiences, Elo
Product and brand videos designed in code, Elo
Kubernetes incident root-cause analysis
Medical long context reasoning
Visual reasoning
Rich, varied, well-crafted language
Well-structured, scannable, answer-first
Truthful, acknowledges uncertainty, non-sycophantic
Use of filler and generic language
Intelligence Index 与价格
上下文窗口
上下文窗口
价格
Intelligence Index 与价格
性能摘要
输出速度与价格
速度
按输出速度(每秒 token 数)衡量
输出速度
延迟
按首 Token 延迟(秒)衡量
延迟: 首个答案 Token 延迟
缓存行为
缓存命中率
每任务成本与缓存命中率
端到端响应时间
Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed
端到端响应时间与价格
进一步分析 | |||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|
DeepSeek V4.1 Flash 1017 (max) | 1M | 开放 | 45 | $0.69 | 272 | 0.31 | 9.51 | 7.36 | |||
DeepSeek V4.1 Flash 1017 (max) (FAST) | 1.05M | 开放 | 45 | $0.87 | 837 | 0.21 | 3.20 | 2.39 | |||
GLM-5.3 (max) | 1.05M | 开放 | 45 | $1.43 | 159 | 1.35 | 17.10 | 12.60 | |||
GLM-5.3 (max) (FAST) | 1M | 开放 | 45 | $3.75 | 294 | 0.79 | 9.30 | 6.81 | |||
Kimi K3 (max) | 1.05M | 开放 | 44 | $2.88 | 78 | 1.06 | 33.22 | 25.73 | |||
GLM-5.3-Flash | 1.05M | 开放 | 42 | $0.84 | 154 | 0.46 | 16.73 | 13.02 | |||
DeepSeek V4.1 Flash (max) | 1M | 开放 | 39 | $0.83 | 374 | 0.49 | 7.18 | 5.35 | |||
DeepSeek V4.1 Flash (max) (FAST) | 1.05M | 开放 | 39 | $0.43 | 824 | 0.97 | 4.00 | 2.43 | |||
Muse Spark Open (xhigh) | 1.05M | 开放 | 39 | $1.13 | 297 | 0.40 | 8.83 | 6.74 | |||
DeepSeek V4 Pro 0813 (max) | 1M | 开放 | 36 | $1.61 | 130 | 1.73 | 20.97 | 15.39 | |||
DeepSeek V4 Flash 0731 (max) | 1.05M | 开放 | 34 | $0.21 | 325 | 0.63 | 8.32 | 6.16 | |||
GLM-5.2 (max) (FAST) | 524k | 开放 | 34 | $1.61 | 324 | 0.89 | 8.62 | 6.18 | |||
GLM-5.2 (max) | 1.05M | 开放 | 34 | $0.65 | 140 | 2.33 | 20.21 | 14.30 | |||
DeepSeek V4 Pro (max) | 1M | 开放 | 30 | -- | -- | -- | -- | -- | |||
Beam 1.0 (NVFP4) | 1.05M | 开放 | 30 | $0.18 | 532 | 0.39 | 5.08 | 3.76 | |||
DeepSeek V4 Pro (high) | 1M | 开放 | 30* | -- | -- | -- | -- | -- | |||
Kimi K3 (low) | 1M | 开放 | 30 | $1.70 | 74 | 1.10 | 34.93 | 27.06 | |||
Kimi K2.6 | 262k | 开放 | 27 | -- | -- | -- | -- | -- | |||
Nemotron 3.5 Super VL | 1M | 开放 | 26 | $0.11 | 567 | 0.29 | 4.69 | 3.52 | |||
DeepSeek V4.1 Flash (non-reasoning) (FAST) | 1.05M | 开放 | 25 | $0.22 | 897 | 0.89 | 1.45 | -- | |||
Kimi K2.6 (non-reasoning) | 262k | 开放 | 24* | -- | -- | -- | -- | -- | |||
GLM-5.2 (non-reasoning) (FAST) | 524k | 开放 | 22* | -- | 326 | 0.75 | 2.28 | -- | |||
GLM-5.2 (non-reasoning) | 1.05M | 开放 | 22* | -- | 120 | 1.74 | 5.89 | -- | |||
DeepSeek V4 Pro (non-reasoning) | 1M | 开放 | 21* | -- | -- | -- | -- | -- | |||
gpt-oss-120b (high) | 128k | 开放 | 12 | $0.07 | 222 | 0.18 | 11.42 | 8.99 | |||
gpt-oss-120b (low) | 128k | 开放 | 10* | -- | 233 | 0.17 | 10.91 | 8.59 | |||
关键定义
常见问题
关于 Baseten 的常见问题
Baseten 提供我们跟踪的 21 个模型:DeepSeek V4.1 Flash 1017 (max)、DeepSeek V4.1 Flash 1017 (max) (FAST)、GLM-5.3 (max)、GLM-5.3 (max) (FAST)、Kimi K3 (max)、GLM-5.3-Flash、DeepSeek V4.1 Flash (max)、DeepSeek V4.1 Flash (max) (FAST)、Muse Spark Open (xhigh)、DeepSeek V4 Pro 0813 (max)、DeepSeek V4 Flash 0731 (max)、GLM-5.2 (max) (FAST)、GLM-5.2 (max)、Beam 1.0 (NVFP4)、Kimi K3 (low)、Nemotron 3.5 Super VL、DeepSeek V4.1 Flash (non-reasoning) (FAST)、GLM-5.2 (non-reasoning) (FAST)、GLM-5.2 (non-reasoning)、gpt-oss-120b (high)和gpt-oss-120b (low)。
Baseten 上最智能的模型是 DeepSeek V4.1 Flash 1017 (max),Intelligence Index 得分为 45。
按输出速度计算,Baseten 上最快的模型是 DeepSeek V4.1 Flash (non-reasoning) (FAST),速度为每秒 896.9 个 token。
Baseten 上首个答案 Token 延迟最低的模型是 GLM-5.2 (non-reasoning) (FAST),延迟为 0.75 秒。延迟越低,初始响应越快。
按混合价格计算,Baseten 上最实惠的模型是 DeepSeek V4 Flash 0731 (max),每 100 万 token 的价格为 $0.07(缓存命中/输入/输出比例为 7:2:1)。
Baseten 上各模型价格最多相差 32 倍,从最实惠的 DeepSeek V4 Flash 0731 (max)(每 100 万 token $0.07)到最昂贵的 Kimi K3 (low)(每 100 万 token $2.31)。
是,Baseten 提供兼容 OpenAI 的 API,可以轻松从 OpenAI 切换,或继续使用现有的 OpenAI SDK 集成。
是,Baseten 上全部 21 个模型均支持用于结构化输出的 JSON 模式。
是,Baseten 上全部 21 个模型均支持函数调用(工具使用)。
是,Baseten 提供 18 个推理模型:DeepSeek V4.1 Flash 1017 (max)、DeepSeek V4.1 Flash 1017 (max) (FAST)、GLM-5.3 (max)、GLM-5.3 (max) (FAST)、Kimi K3 (max)、GLM-5.3-Flash、DeepSeek V4.1 Flash (max)、DeepSeek V4.1 Flash (max) (FAST)、Muse Spark Open (xhigh)、DeepSeek V4 Pro 0813 (max)、DeepSeek V4 Flash 0731 (max)、GLM-5.2 (max) (FAST)、GLM-5.2 (max)、Beam 1.0 (NVFP4)、Kimi K3 (low)、Nemotron 3.5 Super VL、gpt-oss-120b (high)和gpt-oss-120b (low)。推理模型会先进行扩展思考来解决复杂问题,再给出答案。
是,Baseten 上全部 21 个模型均为开放权重模型。
会。服务商性能可能因基础设施变化、负载均衡和更新而随时间波动。我们持续对所有服务商进行基准测试,并在“随时间变化”图表中展示历史性能趋势。
选择 Baseten 上的模型时,请考虑:智能(适合质量敏感型任务)、输出速度(适合吞吐量密集型任务)、延迟(适合需要快速首次响应的交互式应用)、价格(适合成本敏感型工作负载),以及上下文窗口大小、JSON 模式或函数调用支持等功能。