Open weights model

Released dezembro de 2024

Phi-4 Benchmarking e análise de provedores de API

Comparação de modelos

Esta análise ajuda você a escolher o melhor provedor de API de Phi-4 para seu caso de uso.

Mais rápido

#1
DeepInfraDeepInfra
56.2 t/s
#2
AzureAzure
40.4 t/s

Velocidade de saída

2 provedores no total

Menor latência

#1
DeepInfraDeepInfra
0.93 s
#2
AzureAzure
2.54 s

Tempo até o primeiro token

2 provedores no total

Menor preço

#1
DeepInfraDeepInfra
$0.08
#2
AzureAzure
$0.16

Preço combinado (por 1M de tokens)

2 provedores no total

Phi-4 está disponível em 2 provedores de API, cada um com características de desempenho e preços diferentes. Veja abaixo uma comparação das principais métricas entre os provedores.

  • Em velocidade de saída, os principais provedores são DeepInfra (56.2 t/s) e Azure (40.4 t/s).
  • Em latência, DeepInfra (0.93s) e Azure (2.54s) têm o menor tempo até o primeiro token.
  • Em preço, DeepInfra (0.08) e Azure (0.16) têm os menores preços combinados por 1M de tokens.
  • DeepInfra se destaca na liderança geral, ocupando o primeiro lugar nas três categorias: velocidade, latência e preço.

Destaques

Output tokens per second · Higher is better
Seconds · Lower is better
USD per 1M tokens (blended) · Lower is better

Atualização: A carga de trabalho padrão do benchmarking de desempenho passou a usar 10k tokens de entrada para representar melhor os casos de uso em produção. Você ainda pode selecionar outras cargas de trabalho acima.

Preços

Pricing: Cache Hit, Input, and Output

Price (USD per M Tokens) · Lower is better · 10,000 input tokens

Pricing: Blended Price

Blended at 7:2:1 (cache-input-output) · USD per 1M tokens (blended) · Lower is better

Output Speed vs. Price

Blended at 7:2:1 (cache-input-output) · Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant

Velocidade

Medida pela velocidade de saída (tokens por segundo)

Output Speed: Phi-4

Output speed: output tokens per second · 10,000 input tokens

Latency vs. Output Speed

Latency: seconds to first token received · Output speed: output tokens per second · 10,000 input tokens
Most attractive quadrant

Latência

Medida pelo tempo (segundos) até o primeiro token

Tempo até o primeiro token

Seconds to first token received · Lower is better · 10,000 input tokens

Tempo de resposta de ponta a ponta

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

Tempo de resposta de ponta a ponta

Seconds to output 500 tokens, including reasoning model 'thinking' time · Lower is better · 10,000 input tokens

Principais métricas de comparação e recursos da API

Logo: Microsoft AzureMicrosoft Azure
16.4k
Aberto
--
40
2.54
14.92
--
Logo: DeepInfraDeepInfra
16.4k
Aberto
--
56
0.93
9.82
--

Perguntas frequentes

Perguntas comuns sobre os provedores do Phi-4