This model is deprecated. We only continue performance benchmarking for the default 10k input token workload. Results for other workloads are historical and no longer updated.

Google has launched a newer model, Gemma 4 E4B. We suggest considering it instead.

For more information, see comparison of Gemma 4 E4B to other models and API provider benchmarks for Gemma 4 E4B.

Open weights model

Released 2025년 3월

Gemma 3 4B Instruct API 제공업체 벤치마킹 및 분석

모델 비교

이 분석은 사용 사례에 가장 적합한 Gemma 3 4B Instruct API 제공업체를 선택하는 데 도움을 드립니다.

가장 빠름

#1
AmazonAmazon
193.2 t/s
#2
DeepInfraDeepInfra
22.3 t/s

출력 속도

총 제공업체 3곳

가장 낮은 지연 시간

#1
AmazonAmazon
1.02 s
#2
DeepInfraDeepInfra
1.52 s

첫 토큰까지 걸린 시간

총 제공업체 3곳

가장 낮은 가격

#1
Google (AI Studio)Google (AI Studio)
$0.00
#2
AmazonAmazon
$0.04
#3
DeepInfraDeepInfra
$0.06

혼합 가격(토큰 100만 개당)

총 제공업체 3곳

Gemma 3 4B은 성능 특성과 가격이 서로 다른 API 제공업체 3곳에서 제공됩니다. 아래에서 제공업체별 주요 지표를 비교합니다.

  • 출력 속도가 가장 높은 제공업체는 Amazon(193.2 t/s) 및 DeepInfra(22.3 t/s)입니다.
  • Amazon(1.02초) 및 DeepInfra(1.52초)의 첫 토큰까지 걸린 시간이 가장 짧습니다.
  • Google (AI Studio)(0.00), Amazon(0.04) 및 DeepInfra(0.06)의 토큰 100만 개당 혼합 가격이 가장 낮습니다.
  • Amazon은 속도가 가장 빠르고 지연 시간이 가장 짧아 최고의 성능을 제공합니다. 비용을 최적화하려면 가격 경쟁력이 가장 뛰어난 Google (AI Studio)이 적합합니다.

주요 내용

Output tokens per second · Higher is better
Seconds · Lower is better
USD per 1M tokens (blended) · Lower is better

가격

Pricing: Cache Hit, Input, and Output

Price (USD per M Tokens) · Lower is better · 10,000 input tokens

Pricing: Blended Price

Blended at 7:2:1 (cache-input-output) · USD per 1M tokens (blended) · Lower is better

Output Speed vs. Price

Blended at 7:2:1 (cache-input-output) · Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant

속도

출력 속도(초당 토큰 수)로 측정

Output Speed: Gemma 3 4B Instruct

Output speed: output tokens per second · 10,000 input tokens

Latency vs. Output Speed

Latency: seconds to first token received · Output speed: output tokens per second · 10,000 input tokens
Most attractive quadrant

지연 시간

첫 토큰까지 걸린 시간(초)으로 측정

첫 토큰까지 걸린 시간

Seconds to first token received · Lower is better · 10,000 input tokens

종단 간 응답 시간

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

종단 간 응답 시간

Seconds to output 500 tokens, including reasoning model 'thinking' time · Lower is better · 10,000 input tokens

주요 비교 지표 및 API 기능

Amazon Bedrock 로고Amazon Bedrock
128k
오픈
--
193
1.02
3.61
--
Google 로고Google
128k
오픈
--
--
--
--
--
DeepInfra 로고DeepInfra
131k
오픈
--
22
1.52
23.96
--

자주 묻는 질문

Gemma 3 4B Instruct 제공업체에 관한 일반적인 질문