This model is deprecated. We only continue performance benchmarking for the default 10k input token workload. Results for other workloads are historical and no longer updated.
Google has launched a newer model, Gemma 4 26B A4B. We suggest considering it instead.
For more information, see comparison of Gemma 4 26B A4B to other models and API provider benchmarks for Gemma 4 26B A4B.
本分析旨在帮助你根据使用场景，选择 Gemma 3 12B Instruct 的最佳 API 服务商。
速度最快
Amazon
DeepInfra输出速度
共 3 家服务商
延迟最低
DeepInfraAmazon首 Token 延迟
共 3 家服务商
价格最低
Google (AI Studio)DeepInfraAmazon每 100 万 token 的混合价格
共 3 家服务商
可通过 3 家 API 服务商使用 Gemma 3 12B，每家服务商的性能特征和价格各不相同。下方对比了各服务商的关键指标。
- 输出速度最快的服务商是 Amazon（98.2 t/s）和DeepInfra（36.7 t/s）。
- 延迟方面，DeepInfra（1.07 秒）和Amazon（1.30 秒） 的首 Token 延迟最低。
- 价格方面，Google (AI Studio)（0.00）、DeepInfra（0.06）和Amazon（0.11） 每 100 万 token 的混合价格最低。
亮点
价格
Pricing: Cache Hit, Input, and Output
Pricing: Blended Price
Output Speed vs. Price
速度
按输出速度（每秒 token 数）衡量
Output Speed: Gemma 3 12B Instruct
Latency vs. Output Speed
延迟
按首 Token 延迟（秒）衡量
首 Token 延迟
端到端响应时间
Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed
端到端响应时间
关键比较指标与 API 功能
常见问题
关于 Gemma 3 12B Instruct 服务商的常见问题
可通过 3 家 API 服务商使用 Gemma 3 12B Instruct：DeepInfra、Amazon和Google (AI Studio)。每家服务商的性能特征和价格各不相同。
目前可通过我们进行基准测试和跟踪的 3 家 API 服务商使用 Gemma 3 12B Instruct。
按混合价格计算，Gemma 3 12B Instruct 最实惠的服务商是 Google (AI Studio)（每 100 万 token $0.00）、DeepInfra（每 100 万 token $0.06）和Amazon（每 100 万 token $0.11）。混合价格采用缓存命中/输入/输出 token 为 7:2:1 的比例。
Gemma 3 12B Instruct 输入 token 价格最低的服务商是 Google (AI Studio)（每 100 万输入 token $0.00）、DeepInfra（每 100 万输入 token $0.05）和Amazon（每 100 万输入 token $0.09）。
Gemma 3 12B Instruct 输出 token 价格最低的服务商是 Google (AI Studio)（每 100 万输出 token $0.00）、DeepInfra（每 100 万输出 token $0.15）和Amazon（每 100 万输出 token $0.29）。
提供 Gemma 3 12B Instruct 的 3 家服务商中，有 1 家支持 JSON 模式：DeepInfra。
Gemma 3 12B Instruct 的最佳服务商取决于你的侧重点：Amazon 输出速度最高，DeepInfra 延迟最低，Google (AI Studio) 的价格最具竞争力。
选择 Gemma 3 12B Instruct 服务商时，请考虑：输出速度（适合吞吐量密集型任务）、延迟（适合需要快速首次响应的交互式应用）、价格（适合成本敏感型工作负载），以及 JSON 模式或函数调用等 API 功能。
会。服务商性能可能因基础设施变化、负载均衡和更新而随时间波动。我们持续对所有服务商进行基准测试，并在“随时间变化”图表中展示历史性能趋势。
有关 Gemma 3 12B Instruct 的智能、能力、模态及其与其他模型的比较，请参阅模型概览页面。 查看模型概览