•

Open weights model

•

Released diciembre de 2024

Phi-4 Benchmarks y análisis de proveedores de API

Comparación de modelos

Este análisis está pensado para ayudarte a elegir el mejor proveedor de API de Phi-4 para tu caso de uso.

Más rápido

#1
DeepInfraDeepInfra
69.4 t/s
#2
AzureAzure
40.3 t/s

Velocidad de salida

2 proveedores en total

Menor latencia

#1
DeepInfraDeepInfra
0.97 s
#2
AzureAzure
2.53 s

Tiempo hasta el primer token

2 proveedores en total

Menor precio

#1
DeepInfraDeepInfra
$0.08
#2
AzureAzure
$0.16

Precio combinado (por 1M de tokens)

2 proveedores en total

Phi-4 está disponible a través de 2 proveedores de API, cada uno con distintas características de rendimiento y precios. A continuación se comparan las métricas clave entre proveedores.

  • En velocidad de salida, los principales proveedores son DeepInfra (69.4 t/s) y Azure (40.3 t/s).
  • En latencia, DeepInfra (0.97s) y Azure (2.53s) ofrecen el menor tiempo hasta el primer token.
  • En precios, DeepInfra (0.08) y Azure (0.16) ofrecen los menores precios combinados por 1M de tokens.
  • DeepInfra destaca como el líder general, al ubicarse primero en las tres categorías: velocidad, latencia y precios.

Aspectos destacados

Output tokens per second · Higher is better
Seconds to first answer token received · Lower is better
USD per 1M tokens (blended) · Lower is better

Actualización: La carga de trabajo predeterminada de medición de rendimiento se actualizó a 10k tokens de entrada para reflejar mejor los casos de uso en producción. Aún puedes seleccionar distintas cargas de trabajo arriba.

Precios

Pricing: Cache Hit, Input, and Output

Price (USD per M Tokens) · Lower is better · 10,000 input tokens

Pricing: Blended Price

Blended at 7:2:1 (cache-input-output) · USD per 1M tokens (blended) · Lower is better

Output Speed vs. Price

Blended at 7:2:1 (cache-input-output) · Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant

Velocidad

Medida por la velocidad de salida (tokens por segundo)

Output Speed: Phi-4

Output speed: output tokens per second · 10,000 input tokens

Latency vs. Output Speed

Latency: seconds to first token received · Output speed: output tokens per second · 10,000 input tokens
Most attractive quadrant

Latencia

Medida por el tiempo (segundos) hasta el primer token

Tiempo hasta el primer token

Seconds to first token received · Lower is better · 10,000 input tokens

Tiempo de respuesta de extremo a extremo

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

Tiempo de respuesta de extremo a extremo

Seconds to output 500 tokens, including reasoning model 'thinking' time · Lower is better · 10,000 input tokens

Métricas clave de comparación y funciones de API

Logo de Microsoft AzureMicrosoft Azure
16.4k
Abierto
--
40
2.50
14.94
--
Logo de DeepInfraDeepInfra
16.4k
Abierto
--
67
0.93
8.37
--

Preguntas frecuentes

Preguntas comunes sobre los proveedores de Phi-4