更新：默认性能基准测试工作负载已调整为 1 万个输入 token，以更贴近生产使用场景。你仍可在上方选择其他工作负载。
价格
价格：缓存命中、输入和输出
每项 Intelligence Index 任务的成本
输出速度与价格
速度
按输出速度（每秒 token 数）衡量
输出速度: Granite 4.0 H Small
智能指数每项任务耗时
每任务成本与每任务耗时
延迟
按首 Token 延迟（秒）衡量
首 Token 延迟
端到端响应时间
Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed
端到端响应时间
关键比较指标与 API 功能
 Replicate | 128k | 开放 | -- | 9 | 58.38 | 115.40 | -- | ||
常见问题
关于 Granite 4.0 H Small 服务商的常见问题
可通过 1 家 API 服务商使用 Granite 4.0 H Small：Replicate。每家服务商的性能特征和价格各不相同。
目前可通过我们进行基准测试和跟踪的 1 家 API 服务商使用 Granite 4.0 H Small。
按输出速度计算，Granite 4.0 H Small 速度最快的服务商是 Replicate（8.8 t/s）。输出速度衡量模型开始响应后生成 token 的速度。
Granite 4.0 H Small 的首 Token 延迟最低的服务商是 Replicate（58.38s）。延迟越低，初始响应越快。
按混合价格计算，Granite 4.0 H Small 最实惠的服务商是 Replicate（每 100 万 token $0.08）。混合价格采用缓存命中/输入/输出 token 为 7:2:1 的比例。
Granite 4.0 H Small 输入 token 价格最低的服务商是 Replicate（每 100 万输入 token $0.06）。
Granite 4.0 H Small 输出 token 价格最低的服务商是 Replicate（每 100 万输出 token $0.25）。
Replicate 在 Granite 4.0 H Small 的所有关键指标上均处于领先，拥有最快速度、最低延迟和最具竞争力的价格。
选择 Granite 4.0 H Small 服务商时，请考虑：输出速度（适合吞吐量密集型任务）、延迟（适合需要快速首次响应的交互式应用）、价格（适合成本敏感型工作负载），以及 JSON 模式或函数调用等 API 功能。
会。服务商性能可能因基础设施变化、负载均衡和更新而随时间波动。我们持续对所有服务商进行基准测试，并在“随时间变化”图表中展示历史性能趋势。
有关 Granite 4.0 H Small 的智能、能力、模态及其与其他模型的比较，请参阅模型概览页面。 查看模型概览