Baseten:模型智能、性能与价格
本分析旨在帮助你根据使用场景,选择 Baseten 提供的最佳模型。
最智能
UpdatedIntelligence Index
共 16 个模型
速度最快
输出速度
共 16 个模型
价格最低
每 100 万 token 的混合价格
共 16 个模型
Baseten 提供 16 个模型,每个模型的智能、性能和价格特征各不相同。 下方对比了各模型的关键指标。
- 智能方面,Baseten 上表现最好的模型是 GLM-5.3 (max)(45)、GLM-5.3 (max) (FAST)(45)和Kimi K3 (max)(44)。
- 输出速度方面,最快的模型是 DeepSeek V4.1 Flash (max)(340 t/s)、DeepSeek V4 Flash 0731 (max)(314 t/s)和gpt-oss-120b (high)(280 t/s)。
- 延迟方面,GLM-4.7 (non-reasoning)(0.57 秒)、GLM-5.2 (non-reasoning) (FAST)(0.64 秒)和GLM-5.2 (non-reasoning)(1.35 秒) 的首个答案 Token 延迟最低。
- 价格方面,DeepSeek V4 Flash 0731 (max)($0.07)、GLM-5.3-Flash($0.10)和gpt-oss-120b (high)($0.14) 每 100 万 token 的混合价格最低。 各模型价格最多相差 2.8 倍。
- 上下文窗口方面,GLM-5.3 (max)(1M)、Kimi K3 (max)(1M)和DeepSeek V4 Flash 0731 (max)(1M) 支持 Baseten 上最大的上下文窗口。
智能评测
Artificial Analysis Intelligence Index
Intelligence Evaluations
Agentic knowledge work, (Elo-500)/2000
Agentic real-world work tasks, (Elo-500)/2000
Agentic SaaS workflows
Agentic coding & terminal use
Coding
Reasoning & knowledge
Professional document reasoning, All-pass
Physics reasoning
Knowledge
1 - hallucination rate
Long context reasoning
Legal agentic work, criterion pass rate
Agentic business operations
Agentic scientific research workflows in a terminal
Quantitative analysis on spreadsheets & documents
Kubernetes incident root-cause analysis
Visual reasoning
Medical long context reasoning
Intelligence Index 与价格
上下文窗口
上下文窗口
价格
Intelligence Index 与价格
性能摘要
输出速度与价格
速度
按输出速度(每秒 token 数)衡量
输出速度
延迟
按首 Token 延迟(秒)衡量
延迟: 首个答案 Token 延迟
端到端响应时间
Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed
端到端响应时间与价格
进一步分析 | |||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|
GLM-5.3 (max) | 1.05M | 开放 | 45 | $1.43 | 140 | 1.49 | 19.39 | 14.32 | |||
GLM-5.3 (max) (FAST) | 1M | 开放 | 45 | $2.15 | 285 | 0.69 | 9.47 | 7.02 | |||
Kimi K3 (max) | 1.05M | 开放 | 44 | $2.42 | 166 | 0.79 | 15.89 | 12.08 | |||
GLM-5.3-Flash | 1.05M | 开放 | 42 | $0.60 | 225 | 0.54 | 11.65 | 8.89 | |||
DeepSeek V4.1 Flash (max) | 1M | 开放 | 39 | $1.21 | 197 | 0.82 | 13.51 | 10.15 | |||
DeepSeek V4 Pro 0813 (max) | 1M | 开放 | 36 | $5.51 | 108 | 1.02 | 24.07 | 18.44 | |||
DeepSeek V4 Flash 0731 (max) | 1.05M | 开放 | 34 | $0.42 | 291 | 0.56 | 9.16 | 6.87 | |||
GLM-5.2 (max) (FAST) | 524k | 开放 | 34 | $1.04 | 261 | 0.69 | 10.27 | 7.67 | |||
GLM-5.2 (max) | 1.05M | 开放 | 34 | $0.65 | 122 | 2.05 | 22.59 | 16.43 | |||
DeepSeek V4 Pro (max) | 1M | 开放 | 30 | $2.90 | -- | -- | -- | -- | |||
DeepSeek V4 Pro (high) | 1M | 开放 | 30* | -- | -- | -- | -- | -- | |||
Kimi K3 (low) | 1M | 开放 | 30 | $1.41 | 163 | 1.11 | 16.46 | 12.28 | |||
Kimi K2.6 | 262k | 开放 | 27 | $0.74 | -- | -- | -- | -- | |||
Kimi K2.7 Code | 262k | 开放 | 26 | $0.65 | -- | -- | -- | -- | |||
Inkling Small | 262k | 开放 | 26 | $0.12 | -- | -- | -- | -- | |||
Inkling (xhigh) | 262k | 开放 | 25 | $0.72 | -- | -- | -- | -- | |||
Kimi K2.6 (non-reasoning) | 262k | 开放 | 24* | -- | -- | -- | -- | -- | |||
GLM-5.2 (non-reasoning) (FAST) | 524k | 开放 | 22* | -- | 340 | 0.50 | 1.97 | -- | |||
GLM-5.2 (non-reasoning) | 1.05M | 开放 | 22* | -- | 107 | 2.10 | 6.76 | -- | |||
GLM-4.7 | 200k | 开放 | 22* | -- | 213 | 0.63 | 12.35 | 9.37 | |||
DeepSeek V4 Pro (non-reasoning) | 1M | 开放 | 21* | -- | -- | -- | -- | -- | |||
GLM-4.7 (non-reasoning) | 200k | 开放 | 17* | -- | 214 | 0.45 | 2.78 | -- | |||
gpt-oss-120b (high) | 128k | 开放 | 12 | $0.07 | 220 | 0.20 | 11.58 | 9.10 | |||
gpt-oss-120b (low) | 128k | 开放 | 10* | -- | 211 | 0.21 | 12.06 | 9.48 | |||
关键定义
常见问题
关于 Baseten 的常见问题
Baseten 提供我们跟踪的 16 个模型:GLM-5.3 (max)、GLM-5.3 (max) (FAST)、Kimi K3 (max)、GLM-5.3-Flash、DeepSeek V4.1 Flash (max)、DeepSeek V4 Pro 0813 (max)、DeepSeek V4 Flash 0731 (max)、GLM-5.2 (max) (FAST)、GLM-5.2 (max)、Kimi K3 (low)、GLM-5.2 (non-reasoning) (FAST)、GLM-5.2 (non-reasoning)、GLM-4.7、GLM-4.7 (non-reasoning)、gpt-oss-120b (high)和gpt-oss-120b (low)。
Baseten 上最智能的模型是 GLM-5.3 (max),Intelligence Index 得分为 45。
按输出速度计算,Baseten 上最快的模型是 DeepSeek V4.1 Flash (max),速度为每秒 340.4 个 token。
Baseten 上首个答案 Token 延迟最低的模型是 GLM-4.7 (non-reasoning),延迟为 0.57 秒。延迟越低,初始响应越快。
按混合价格计算,Baseten 上最实惠的模型是 DeepSeek V4 Flash 0731 (max),每 100 万 token 的价格为 $0.07(缓存命中/输入/输出比例为 7:2:1)。
Baseten 上各模型价格最多相差 32 倍,从最实惠的 DeepSeek V4 Flash 0731 (max)(每 100 万 token $0.07)到最昂贵的 Kimi K3 (low)(每 100 万 token $2.31)。
是,Baseten 提供兼容 OpenAI 的 API,可以轻松从 OpenAI 切换,或继续使用现有的 OpenAI SDK 集成。
是,Baseten 上全部 16 个模型均支持用于结构化输出的 JSON 模式。
是,Baseten 上全部 16 个模型均支持函数调用(工具使用)。
是,Baseten 提供 13 个推理模型:GLM-5.3 (max)、GLM-5.3 (max) (FAST)、Kimi K3 (max)、GLM-5.3-Flash、DeepSeek V4.1 Flash (max)、DeepSeek V4 Pro 0813 (max)、DeepSeek V4 Flash 0731 (max)、GLM-5.2 (max) (FAST)、GLM-5.2 (max)、Kimi K3 (low)、GLM-4.7、gpt-oss-120b (high)和gpt-oss-120b (low)。推理模型会先进行扩展思考来解决复杂问题,再给出答案。
是,Baseten 上全部 16 个模型均为开放权重模型。
会。服务商性能可能因基础设施变化、负载均衡和更新而随时间波动。我们持续对所有服务商进行基准测试,并在“随时间变化”图表中展示历史性能趋势。
选择 Baseten 上的模型时,请考虑:智能(适合质量敏感型任务)、输出速度(适合吞吐量密集型任务)、延迟(适合需要快速首次响应的交互式应用)、价格(适合成本敏感型工作负载),以及上下文窗口大小、JSON 模式或函数调用支持等功能。