This model is deprecated. We only continue performance benchmarking for the default 10k input token workload. Results for other workloads are historical and no longer updated.

OpenAI has launched a newer model, GPT-5 mini (medium). We suggest considering it instead.

For more information, see comparison of GPT-5 mini (medium) to other models and API provider benchmarks for GPT-5 mini (medium).

Proprietary model

Released 2024년 7월

GPT-4o mini API 제공업체 벤치마킹 및 분석

모델 비교

이 분석은 사용 사례에 가장 적합한 GPT-4o mini API 제공업체를 선택하는 데 도움을 드립니다.

가장 빠름

#1
OpenAIOpenAI
154.4 t/s
#2
AzureAzure
91.6 t/s

출력 속도

총 제공업체 3곳

가장 낮은 지연 시간

#1
OpenAIOpenAI
0.87 s
#2
AzureAzure
1.84 s

첫 토큰까지 걸린 시간

총 제공업체 3곳

가장 낮은 가격

#1
OpenAIOpenAI
$0.14
#2
AzureAzure
$0.14
#3
OpenAIOpenAI
$0.20

혼합 가격(토큰 100만 개당)

총 제공업체 3곳

GPT-4o mini은 성능 특성과 가격이 서로 다른 API 제공업체 3곳에서 제공됩니다. 아래에서 제공업체별 주요 지표를 비교합니다.

  • 출력 속도가 가장 높은 제공업체는 OpenAI(154.4 t/s) 및 Azure(91.6 t/s)입니다.
  • OpenAI(0.87초) 및 Azure(1.84초)의 첫 토큰까지 걸린 시간이 가장 짧습니다.
  • OpenAI(0.14), Azure(0.14) 및 OpenAI(0.20)의 토큰 100만 개당 혼합 가격이 가장 낮습니다.
  • OpenAI은 속도, 지연 시간, 가격 세 부문 모두에서 1위를 차지한 종합 선두입니다.

주요 내용

Output tokens per second · Higher is better
Seconds · Lower is better
USD per 1M tokens (blended) · Lower is better

가격

Pricing: Cache Hit, Input, and Output

Price (USD per M Tokens) · Lower is better · 10,000 input tokens

Pricing: Blended Price

Blended at 7:2:1 (cache-input-output) · USD per 1M tokens (blended) · Lower is better

Pricing: Cache Discount

1 - (cache hit price / input price) · Higher is better

Output Speed vs. Price

Blended at 7:2:1 (cache-input-output) · Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant

속도

출력 속도(초당 토큰 수)로 측정

Output Speed: GPT-4o mini

Output speed: output tokens per second · 10,000 input tokens

Latency vs. Output Speed

Latency: seconds to first token received · Output speed: output tokens per second · 10,000 input tokens
Most attractive quadrant

지연 시간

첫 토큰까지 걸린 시간(초)으로 측정

첫 토큰까지 걸린 시간

Seconds to first token received · Lower is better · 10,000 input tokens

종단 간 응답 시간

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

종단 간 응답 시간

Seconds to output 500 tokens, including reasoning model 'thinking' time · Lower is better · 10,000 input tokens

주요 비교 지표 및 API 기능

OpenAI 로고OpenAI
128k
독점
--
--
--
--
--
OpenAI 로고OpenAI
128k
독점
--
154
0.87
4.10
--
Microsoft Azure 로고Microsoft Azure
128k
독점
--
92
1.77
7.23
--

자주 묻는 질문

GPT-4o mini 제공업체에 관한 일반적인 질문