This model is deprecated. We only continue performance benchmarking for the default 10k input token workload. Results for other workloads are historical and no longer updated.

OpenAI has launched a newer model, GPT-4o (Nov). We suggest considering it instead.

For more information, see comparison of GPT-4o (Nov) to other models and API provider benchmarks for GPT-4o (Nov).

Proprietary model

Released August 2024

GPT-4o (Aug '24) Benchmarking und Analyse von API-Anbietern

Modellvergleich

Diese Analyse soll Sie bei der Auswahl des besten API-Anbieters von GPT-4o (Aug '24) für Ihren Anwendungsfall unterstützen.

Am schnellsten

#1
AzureAzure
146.9 t/s
#2
OpenAIOpenAI
106.5 t/s

Ausgabegeschwindigkeit

Insgesamt 3 Anbieter

Niedrigste Latenz

#1
OpenAIOpenAI
1.18 s
#2
AzureAzure
1.35 s

Zeit bis zum ersten Token

Insgesamt 3 Anbieter

Niedrigster Preis

#1
AzureAzure
$2.38
#2
OpenAIOpenAI
$2.38
#3
OpenAIOpenAI
$3.25

Mischpreis (pro 1 Mio. Tokens)

Insgesamt 3 Anbieter

GPT-4o (Aug) ist über 3 API-Anbieter verfügbar, die jeweils unterschiedliche Leistungsmerkmale und Preise bieten. Im Folgenden werden die wichtigsten Metriken der Anbieter verglichen.

  • Bei der Ausgabegeschwindigkeit führen Azure (146.9 Tokens/s) und OpenAI (106.5 Tokens/s).
  • Bei der Latenz bieten OpenAI (1.18 s) und Azure (1.35 s) die niedrigste Zeit bis zum ersten Token.
  • Bei den Preisen bieten Azure (2.38), OpenAI (2.38) und OpenAI (3.25) die niedrigsten Mischpreise pro 1 Mio. Tokens.
  • Azure bietet ein hervorragendes Verhältnis von Geschwindigkeit und Kosteneffizienz. Für die niedrigste Latenz ist OpenAI die beste Wahl.

Wichtigste Ergebnisse

Output tokens per second · Higher is better
Seconds · Lower is better
USD per 1M tokens (blended) · Lower is better

Preise

Pricing: Cache Hit, Input, and Output

Price (USD per M Tokens) · Lower is better · 10,000 input tokens

Pricing: Blended Price

Blended at 7:2:1 (cache-input-output) · USD per 1M tokens (blended) · Lower is better

Pricing: Cache Discount

1 - (cache hit price / input price) · Higher is better

Output Speed vs. Price

Blended at 7:2:1 (cache-input-output) · Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant

Geschwindigkeit

Gemessen anhand der Ausgabegeschwindigkeit (Tokens pro Sekunde)

Output Speed: GPT-4o (Aug '24)

Output speed: output tokens per second · 10,000 input tokens

Latency vs. Output Speed

Latency: seconds to first token received · Output speed: output tokens per second · 10,000 input tokens
Most attractive quadrant
Pareto line

Latenz

Gemessen anhand der Zeit (in Sekunden) bis zum ersten Token

Zeit bis zum ersten Token

Seconds to first token received · Lower is better · 10,000 input tokens

Ende-zu-Ende-Antwortzeit

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

Ende-zu-Ende-Antwortzeit

Seconds to output 500 tokens, including reasoning model 'thinking' time · Lower is better · 10,000 input tokens

Wichtige Vergleichsmetriken und API-Funktionen

Logo von Microsoft AzureMicrosoft Azure
128k
Proprietär
--
149
1.32
4.67
--
Logo von OpenAIOpenAI
128k
Proprietär
--
112
1.14
5.61
--
Logo von OpenAIOpenAI
128k
Proprietär
--
--
--
--
--

Häufig gestellte Fragen

Häufige Fragen zu den Anbietern von GPT-4o (Aug '24)