gpt-oss-120b (High) API 服务商基准测试与分析
本分析旨在帮助你根据使用场景,选择 gpt-oss-120b (High) 的最佳 API 服务商。
每任务耗时最短
每个 Intelligence Index 任务耗时(分钟)
来自 15 家服务商的 16 个端点
每任务成本最低
每个 Intelligence Index 任务成本
来自 15 家服务商的 16 个端点
可通过来自 15 家 API 服务商的 16 个端点使用 gpt-oss-120b (high),每个端点的性能特征和价格各不相同。下方对比了各服务商的关键指标。
- 在每任务耗时方面,Cerebras(0.9 分钟)、SambaNova(3.0 分钟)和Groq(3.1 分钟)完成一个 Intelligence Index 任务最快。
- 在每任务成本方面,CoreWeave($0.0727)、DeepInfra($0.0868)和Novita($0.12)的每个 Intelligence Index 任务成本最低。 各服务商的成本相差最多 10.5 倍。
接入点准确率
Endpoint Accuracy Index: gpt-oss-120b (High)
价格
每项 Intelligence Index 任务的成本: gpt-oss-120b (High)
价格:缓存命中、输入和输出: gpt-oss-120b (High)
输出速度与每任务成本: gpt-oss-120b (High)
速度
已测量的单次请求和多轮智能体工作负载的平均值
Intelligence Index 每项任务耗时: gpt-oss-120b (High)
延迟
已测量的单次请求和多轮智能体工作负载的平均值
首个答案 Token 延迟: gpt-oss-120b (High)
可靠性
在所有已测量的单次请求和多轮智能体工作负载中,接入点失败的请求占比
接入点错误率: gpt-oss-120b (High)
缓存
缓存命中率: gpt-oss-120b (High)
每任务成本与缓存命中率: gpt-oss-120b (High)
关键比较指标与 API 功能
$0.35 | 13.7 | 104% | 28.52 | 1.5% | 131k | 开放 | |||
$0.24 | 6.0 | 100% | 14.64 | 5.2% | 128k | 开放 | |||
$0.76 | 0.9 | 92% | 1.76 | 0.0% | 131k | 开放 | |||
$0.0727 | 12.3 | 100% | 20.78 | 13.5% | 131k | 开放 | |||
$0.12 | 5.2 | 100% | 14.05 | 0.8% | 131k | 开放 | |||
$0.35 | 35.2 | 85% | 78.22 | 0.8% | 131k | 开放 | |||
$0.0868 | 36.6 | 98% | 65.98 | 4.3% | 131k | 开放 | |||
$0.21 | 13.4 | 78% | 43.84 | 12.9% | 131k | 开放 | |||
$0.32 | 3.2 | 90% | 5.54 | 1.6% | 131k | 开放 | |||
$0.35 | 4.6 | 97% | 11.78 | 4.5% | 131k | 开放 | |||
$0.35 | 5.9 | 102% | 13.59 | 8.7% | 128k | 开放 | |||
$0.12 | 7.9 | 93% | 13.23 | 2.6% | 131k | 开放 | |||
$0.17 | 7.1 | 97% | 15.92 | 1.7% | 131k | 开放 | |||
$0.49 | 3.0 | 99% | 6.22 | 0.0% | 131k | 开放 | |||
$0.39 | 9.5 | 98% | 18.04 | 0.8% | 128k | 开放 | |||
$0.35 | 16.6 | 81% | 42.67 | 8.2% | 131k | 开放 | |||
常见问题
关于 gpt-oss-120b (High) 服务商的常见问题
可通过来自 15 家 API 服务商的 16 个端点使用 gpt-oss-120b (High):Groq、Scaleway、CoreWeave、Novita、DeepInfra (Turbo)、Azure、DeepInfra、Cerebras、Google Vertex、Together AI、Crusoe、Baseten、SambaNova、Parasail、Nebius (Base)和Amazon。每个端点的性能特征和价格各不相同。
目前可通过我们进行基准测试和跟踪的、来自 15 家 API 服务商的 16 个端点使用 gpt-oss-120b (High)。
gpt-oss-120b (High) 的全部 16 个端点均支持用于结构化输出的 JSON 模式。
gpt-oss-120b (High) 的全部 16 个端点均支持函数调用(工具使用)。
选择 gpt-oss-120b (High) 服务商时,请考虑:每任务耗时(完成一个 Intelligence Index 任务的速度)、延迟(适合需要快速首次响应的交互式应用)、价格(适合成本敏感型工作负载),以及 JSON 模式或函数调用等 API 功能。
会。服务商性能可能因基础设施变化、负载均衡和更新而随时间波动。我们持续对所有服务商进行基准测试,并在“随时间变化”图表中展示历史性能趋势。
有关 gpt-oss-120b (High) 的智能、能力、模态及其与其他模型的比较,请参阅模型概览页面。 查看模型概览