This model is deprecated. We only continue performance benchmarking for the default 10k input token workload. Results for other workloads are historical and no longer updated.
Z AI has launched a newer model, GLM-4.7. We suggest considering it instead.
For more information, see comparison of GLM-4.7 to other models and API provider benchmarks for GLM-4.7.
分析 GLM-4.6 (Reasoning) 各 API 服务商的性能指标,包括延迟(首 Token 延迟)、输出速度(每秒输出 token 数)、价格等。参与基准测试的 API 服务商包括 DeepInfra (FP4)、Together AI和Novita。
速度最快
输出速度
共 3 家服务商
延迟最低
首个答案 Token 延迟
共 3 家服务商
价格最低
每 100 万 token 的混合价格
共 3 家服务商
可通过 3 家 API 服务商使用 GLM-4.6,每家服务商的性能特征和价格各不相同。下方对比了各服务商的关键指标。
- 输出速度最快的服务商是 Novita(54.8 t/s)和DeepInfra (FP4)(44.1 t/s)。
- 延迟方面,Novita(39.13 秒)和DeepInfra (FP4)(46.34 秒) 的首个答案 Token 延迟最低。
- 价格方面,DeepInfra (FP4)(0.37)、Novita(0.72)和Together AI(0.76) 每 100 万 token 的混合价格最低。
- Novita 兼具最高速度和最低延迟,性能表现最佳。若要优化成本,DeepInfra (FP4) 的价格最具竞争力。
亮点
价格
Pricing: Cache Hit, Input, and Output
Pricing: Blended Price
Pricing: Cache Discount
Output Speed vs. Price
速度
按输出速度(每秒 token 数)衡量
Output Speed: GLM-4.6 (Reasoning)
Latency vs. Output Speed
延迟
按首 Token 延迟(秒)衡量
首个答案 Token 延迟:GLM-4.6 服务商
端到端响应时间
Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed
端到端响应时间:GLM-4.6 服务商
关键比较指标与 API 功能
常见问题
关于 GLM-4.6 (Reasoning) 服务商的常见问题
可通过 3 家 API 服务商使用 GLM-4.6 (Reasoning):DeepInfra (FP4)、Together AI和Novita。每家服务商的性能特征和价格各不相同。
目前可通过我们进行基准测试和跟踪的 3 家 API 服务商使用 GLM-4.6 (Reasoning)。
按输出速度计算,GLM-4.6 (Reasoning) 速度最快的服务商是 Novita(54.8 t/s)和DeepInfra (FP4)(44.1 t/s)。输出速度衡量模型开始响应后生成 token 的速度。
GLM-4.6 (Reasoning) 的首个答案 Token 延迟最低的服务商是 Novita(39.13s)和DeepInfra (FP4)(46.34s)。延迟越低,初始响应越快。
按混合价格计算,GLM-4.6 (Reasoning) 最实惠的服务商是 DeepInfra (FP4)(每 100 万 token $0.37)、Novita(每 100 万 token $0.72)和Together AI(每 100 万 token $0.76)。混合价格采用缓存命中/输入/输出 token 为 7:2:1 的比例。
GLM-4.6 (Reasoning) 输入 token 价格最低的服务商是 DeepInfra (FP4)(每 100 万输入 token $0.50)、Novita(每 100 万输入 token $0.55)和Together AI(每 100 万输入 token $0.60)。
GLM-4.6 (Reasoning) 输出 token 价格最低的服务商是 DeepInfra (FP4)(每 100 万输出 token $2.00)、Together AI(每 100 万输出 token $2.20)和Novita(每 100 万输出 token $2.20)。
GLM-4.6 (Reasoning) 各服务商价格最多相差 2.1 倍。最实惠的是 DeepInfra (FP4),每 100 万 token 收费 $0.37;Together AI 则收费 $0.76。
提供 GLM-4.6 (Reasoning) 的 3 家服务商中,有 2 家支持 JSON 模式:DeepInfra (FP4)和Novita。
提供 GLM-4.6 (Reasoning) 的全部 3 家服务商均支持函数调用(工具使用)。
对于 GLM-4.6 (Reasoning),Novita 兼具最高速度和最低延迟,性能表现最佳。若要优化成本,DeepInfra (FP4) 的价格最具竞争力。
选择 GLM-4.6 (Reasoning) 服务商时,请考虑:输出速度(适合吞吐量密集型任务)、延迟(适合需要快速首次响应的交互式应用)、价格(适合成本敏感型工作负载),以及 JSON 模式或函数调用等 API 功能。
会。服务商性能可能因基础设施变化、负载均衡和更新而随时间波动。我们持续对所有服务商进行基准测试,并在“随时间变化”图表中展示历史性能趋势。
有关 GLM-4.6 (Reasoning) 的智能、能力、模态及其与其他模型的比较,请参阅模型概览页面。 查看模型概览