此模型已弃用。我们仅继续对默认的 10k 输入 token 工作负载进行性能测试。其他工作负载的结果为历史数据，不再更新。
Nous Research 已推出更新版本 Hermes 4 - Llama-3.1 70B。我们建议考虑使用该版本。
Hermes 3 - Llama-3.1 70B API 服务商基准测试与分析
本分析旨在帮助你根据使用场景，选择 Hermes 3 - Llama-3.1 70B 的最佳 API 服务商。
速度最快
DeepInfra输出速度
共 1 家服务商
延迟最低
DeepInfra首 Token 延迟
共 1 家服务商
价格最低
DeepInfra每 100 万 token 的混合价格
共 1 家服务商
可通过 DeepInfra 使用 Hermes 3 - Llama-3.1 70B。
价格
价格：缓存命中、输入和输出: Hermes 3 - Llama-3.1 70B
每项 Intelligence Index 任务的成本: Hermes 3 - Llama-3.1 70B
输出速度与价格: Hermes 3 - Llama-3.1 70B
速度
按输出速度（每秒 token 数）衡量
输出速度: Hermes 3 - Llama-3.1 70B
Intelligence Index 每项任务耗时: Hermes 3 - Llama-3.1 70B
每任务成本与每任务耗时: Hermes 3 - Llama-3.1 70B
延迟
按首 Token 延迟（秒）衡量
首 Token 延迟: Hermes 3 - Llama-3.1 70B
端到端响应时间
Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed
端到端响应时间: Hermes 3 - Llama-3.1 70B
关键比较指标与 API 功能
常见问题
关于 Hermes 3 - Llama-3.1 70B 服务商的常见问题
可通过 1 家 API 服务商使用 Hermes 3 - Llama-3.1 70B：DeepInfra。每家服务商的性能特征和价格各不相同。
目前可通过我们进行基准测试和跟踪的 1 家 API 服务商使用 Hermes 3 - Llama-3.1 70B。
按输出速度计算，Hermes 3 - Llama-3.1 70B 速度最快的服务商是 DeepInfra（36.9 t/s）。输出速度衡量模型开始响应后生成 token 的速度。
Hermes 3 - Llama-3.1 70B 的首 Token 延迟最低的服务商是 DeepInfra（2.20s）。延迟越低，初始响应越快。
按混合价格计算，Hermes 3 - Llama-3.1 70B 最实惠的服务商是 DeepInfra（每 100 万 token $0.70）。混合价格采用缓存命中/输入/输出 token 为 7:2:1 的比例。
Hermes 3 - Llama-3.1 70B 输入 token 价格最低的服务商是 DeepInfra（每 100 万输入 token $0.70）。
Hermes 3 - Llama-3.1 70B 输出 token 价格最低的服务商是 DeepInfra（每 100 万输出 token $0.70）。
提供 Hermes 3 - Llama-3.1 70B 的全部 1 家服务商均支持用于结构化输出的 JSON 模式。
DeepInfra 在 Hermes 3 - Llama-3.1 70B 的所有关键指标上均处于领先，拥有最快速度、最低延迟和最具竞争力的价格。
选择 Hermes 3 - Llama-3.1 70B 服务商时，请考虑：输出速度（适合吞吐量密集型任务）、延迟（适合需要快速首次响应的交互式应用）、价格（适合成本敏感型工作负载），以及 JSON 模式或函数调用等 API 功能。
会。服务商性能可能因基础设施变化、负载均衡和更新而随时间波动。我们持续对所有服务商进行基准测试，并在“随时间变化”图表中展示历史性能趋势。
有关 Hermes 3 - Llama-3.1 70B 的智能、能力、模态及其与其他模型的比较，请参阅模型概览页面。 查看模型概览