••

Open weights model

•

Released 2025년 8월

gpt-oss-20b (High) API 제공업체 벤치마킹 및 분석

모델 비교

이 분석은 사용 사례에 가장 적합한 gpt-oss-20b (High) API 제공업체를 선택하는 데 도움을 드립니다.

가장 빠름

#1
GroqGroq
895.0 t/s
#2
AmazonAmazon
242.8 t/s
#3
CoreWeaveCoreWeave
176.0 t/s
#4
DeepInfraDeepInfra
122.9 t/s

출력 속도

총 제공업체 4곳

가장 낮은 지연 시간

#1
GroqGroq
2.94 s
#2
CoreWeaveCoreWeave
12.14 s
#3
DeepInfraDeepInfra
16.79 s
#4
AmazonAmazon
34.35 s

첫 답변 토큰까지 걸린 시간

총 제공업체 4곳

가장 낮은 가격

#1
CoreWeaveCoreWeave
$0.04
#2
DeepInfraDeepInfra
$0.04
#3
AmazonAmazon
$0.09
#4
GroqGroq
$0.10

혼합 가격(토큰 100만 개당)

총 제공업체 4곳

gpt-oss-20b (high)은 성능 특성과 가격이 서로 다른 API 제공업체 4곳에서 제공됩니다. 아래에서 제공업체별 주요 지표를 비교합니다.

  • 출력 속도가 가장 높은 제공업체는 Groq(895.0 t/s), Amazon(242.8 t/s) 및 CoreWeave(176.0 t/s)입니다. 제공업체별 속도 차이가 크며, 가장 빠른 곳과 가장 느린 곳의 차이는 628%입니다.
  • Groq(2.94초), CoreWeave(12.14초) 및 DeepInfra(16.79초)의 첫 답변 토큰까지 걸린 시간이 가장 짧습니다.
  • CoreWeave(0.04), DeepInfra(0.04) 및 Amazon(0.09)의 토큰 100만 개당 혼합 가격이 가장 낮습니다. 제공업체별 가격은 최대 2.4배 차이 납니다.
  • Groq은 속도가 가장 빠르고 지연 시간이 가장 짧아 최고의 성능을 제공합니다. 비용을 최적화하려면 가격 경쟁력이 가장 뛰어난 CoreWeave이 적합합니다.
Output tokens per second · Higher is better
Seconds to first answer token received · Lower is better
USD per 1M tokens (blended) · Lower is better

업데이트: 프로덕션 사용 사례를 더 잘 반영하도록 기본 성능 벤치마킹 워크로드를 입력 토큰 10k개로 변경했습니다. 위에서 다른 워크로드도 계속 선택할 수 있습니다.

가격

가격: 캐시 적중, 입력 및 출력

Price (USD per M Tokens) · Lower is better · 10,000 input tokens

Intelligence Index 작업당 비용

Weighted average cost (USD) per Intelligence Index task · Segmented by token type · Lower is better

출력 속도와 가격

Blended at 7:2:1 (cache-input-output) · Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant
Pareto line

속도

출력 속도(초당 토큰 수)로 측정

출력 속도: gpt-oss-20b (High)

출력 속도: 초당 출력 토큰 수 · 10,000 input tokens

Intelligence Index 작업당 시간

Weighted average decode time (minutes) per Intelligence Index task · Excludes TTFT and overhead time · Lower is better

작업당 비용과 작업당 시간

Weighted average cost (USD) per Intelligence Index task · Weighted average decode time (minutes) per Intelligence Index task
Most attractive quadrant
Pareto line

지연 시간

첫 토큰까지 걸린 시간(초)으로 측정

첫 답변 토큰까지 걸린 시간

Seconds to first token received · Lower is better · 10,000 input tokens

캐시 동작

캐시 적중률

캐시 가능한 입력 토큰 중 캐시에서 제공된 비율 · 최근 4주 중앙값, 2026년 10월 26일 갱신

작업당 비용와 캐시 적중률

Weighted average cost (USD) per Intelligence Index task · Cache hit rate: median of the last four weeks, updated Oct 26, 2026
Most attractive quadrant

종단 간 응답 시간

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

종단 간 응답 시간

Seconds to output 500 tokens, including reasoning model 'thinking' time · Lower is better · 10,000 input tokens

주요 비교 지표 및 API 기능

CoreWeave 로고CoreWeave
131k
오픈
$0.01
177
0.77
14.91
11.31
Amazon Bedrock 로고Amazon Bedrock
131k
오픈
$0.01
243
26.11
36.41
8.24
DeepInfra 로고DeepInfra
131k
오픈
$0.01
124
0.52
20.68
16.13
Groq 로고Groq
131k
오픈
$0.02
897
0.71
3.50
2.23

자주 묻는 질문

gpt-oss-20b (High) 제공업체에 관한 일반적인 질문