This model is deprecated. We only continue performance benchmarking for the default 10k input token workload. Results for other workloads are historical and no longer updated.

•

Proprietary model

•

Released noviembre de 2023

GPT-4 Turbo Benchmarks y análisis de proveedores de API

Comparación de modelos

Este análisis está pensado para ayudarte a elegir el mejor proveedor de API de GPT-4 Turbo para tu caso de uso.

Más rápido

#1
AzureAzure
124.4 t/s
#2
OpenAIOpenAI
32.3 t/s

Velocidad de salida

2 proveedores en total

Menor latencia

#1
AzureAzure
1.77 s
#2
OpenAIOpenAI
3.31 s

Tiempo hasta el primer token

2 proveedores en total

Menor precio

#1
AzureAzure
$12.00
#2
OpenAIOpenAI
$12.00

Precio combinado (por 1M de tokens)

2 proveedores en total

GPT-4 Turbo está disponible a través de 2 proveedores de API, cada uno con distintas características de rendimiento y precios. A continuación se comparan las métricas clave entre proveedores.

  • En velocidad de salida, los principales proveedores son Azure (124.4 t/s) y OpenAI (32.3 t/s).
  • En latencia, Azure (1.77s) y OpenAI (3.31s) ofrecen el menor tiempo hasta el primer token.
  • En precios, Azure (12.00) y OpenAI (12.00) ofrecen los menores precios combinados por 1M de tokens.
  • Azure destaca como el líder general, al ubicarse primero en las tres categorías: velocidad, latencia y precios.

Aspectos destacados

Output tokens per second · Higher is better
Seconds to first answer token received · Lower is better
USD per 1M tokens (blended) · Lower is better

Precios

Pricing: Cache Hit, Input, and Output

Price (USD per M Tokens) · Lower is better · 10,000 input tokens

Pricing: Blended Price

Blended at 7:2:1 (cache-input-output) · USD per 1M tokens (blended) · Lower is better

Output Speed vs. Price

Blended at 7:2:1 (cache-input-output) · Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant

Velocidad

Medida por la velocidad de salida (tokens por segundo)

Output Speed: GPT-4 Turbo

Output speed: output tokens per second · 10,000 input tokens

Latency vs. Output Speed

Latency: seconds to first token received · Output speed: output tokens per second · 10,000 input tokens
Most attractive quadrant

Latencia

Medida por el tiempo (segundos) hasta el primer token

Tiempo hasta el primer token

Seconds to first token received · Lower is better · 10,000 input tokens

Tiempo de respuesta de extremo a extremo

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

Tiempo de respuesta de extremo a extremo

Seconds to output 500 tokens, including reasoning model 'thinking' time · Lower is better · 10,000 input tokens

Métricas clave de comparación y funciones de API

Logo de Microsoft AzureMicrosoft Azure
128k
Propietario
--
124
1.77
5.78
--
Logo de OpenAIOpenAI
128k
Propietario
--
32
3.31
18.80
--

Preguntas frecuentes

Preguntas comunes sobre los proveedores de GPT-4 Turbo