此模型已弃用。我们仅继续对默认的 10k 输入 token 工作负载进行性能测试。其他工作负载的结果为历史数据,不再更新。

Google 已推出更新版本 Gemma 4 E4B。我们建议考虑使用该版本。

•

Open weights model

•

Released 2025年3月

Gemma 3 4B Instruct API 服务商基准测试与分析

模型比较

本分析旨在帮助你根据使用场景,选择 Gemma 3 4B Instruct 的最佳 API 服务商。

速度最快

#1
AmazonAmazon
179.9 t/s
#2
Parasail (FP8)Parasail (FP8)
149.6 t/s
#3
DeepInfraDeepInfra
22.3 t/s

输出速度

共 4 家服务商

延迟最低

#1
AmazonAmazon
1.04 s
#2
Parasail (FP8)Parasail (FP8)
1.11 s
#3
DeepInfraDeepInfra
1.16 s

首 Token 延迟

共 4 家服务商

价格最低

#1
Google (AI Studio)Google (AI Studio)
$0.00
#2
AmazonAmazon
$0.04
#3
Parasail (FP8)Parasail (FP8)
$0.05
#4
DeepInfraDeepInfra
$0.06

每 100 万 token 的混合价格

共 4 家服务商

可通过 4 家 API 服务商使用 Gemma 3 4B,每家服务商的性能特征和价格各不相同。下方对比了各服务商的关键指标。

  • 输出速度最快的服务商是 Amazon(179.9 t/s)、Parasail (FP8)(149.6 t/s)和DeepInfra(22.3 t/s)。
  • 延迟方面,Amazon(1.04 秒)、Parasail (FP8)(1.11 秒)和DeepInfra(1.16 秒) 的首 Token 延迟最低。
  • 价格方面,Google (AI Studio)(0.00)、Amazon(0.04)和Parasail (FP8)(0.05) 每 100 万 token 的混合价格最低。
  • Amazon 兼具最高速度和最低延迟,性能表现最佳。若要优化成本,Google (AI Studio) 的价格最具竞争力。
Output tokens per second · Higher is better
Seconds to first answer token received · Lower is better
USD per 1M tokens (blended) · Lower is better

价格

价格:缓存命中、输入和输出

Price (USD per M Tokens) · Lower is better · 10,000 input tokens

每项 Intelligence Index 任务的成本

Weighted average cost (USD) per Intelligence Index task · Segmented by token type · Lower is better
No data available

输出速度与价格

Blended at 7:2:1 (cache-input-output) · Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant

速度

按输出速度(每秒 token 数)衡量

输出速度: Gemma 3 4B Instruct

输出速度:每秒输出 token 数 · 10,000 input tokens

Intelligence Index 每项任务耗时

Weighted average decode time (minutes) per Intelligence Index task · Excludes TTFT and overhead time · Lower is better
No data available

每任务成本与每任务耗时

Weighted average cost (USD) per Intelligence Index task · Weighted average decode time (minutes) per Intelligence Index task
Most attractive quadrant
No data available

延迟

按首 Token 延迟(秒)衡量

首 Token 延迟

Seconds to first token received · Lower is better · 10,000 input tokens

端到端响应时间

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

端到端响应时间

Seconds to output 500 tokens, including reasoning model 'thinking' time · Lower is better · 10,000 input tokens

关键比较指标与 API 功能

Amazon Bedrock 标志Amazon Bedrock
128k
开放
--
180
1.04
3.81
--
Google 标志Google
128k
开放
--
--
--
--
--
Parasail 标志Parasail
131k
开放
--
153
1.12
4.39
--
DeepInfra 标志DeepInfra
131k
开放
--
22
1.18
24.12
--

常见问题

关于 Gemma 3 4B Instruct 服务商的常见问题