o3 Benchmarking e análise de provedores de API

o3 está disponível em 3 provedores de API: Azure, OpenAI e OpenAI. Cada provedor oferece características de desempenho e preços diferentes.

Atualmente, o o3 está disponível em 3 provedores de API que avaliamos e acompanhamos.

Os provedores mais rápidos para o o3 em velocidade de saída são OpenAI (144.4 t/s) e Azure (101.8 t/s). A velocidade de saída mede a rapidez com que os tokens são gerados depois que o modelo começa a responder.

Os provedores com o menor tempo até o primeiro token da resposta final para o o3 são OpenAI (4.51s) e Azure (26.45s). Uma latência menor significa um tempo de resposta inicial mais rápido.

Os provedores mais acessíveis para o o3 em preço combinado são Azure ($1.55 por 1M de tokens), OpenAI ($1.55 por 1M de tokens) e OpenAI ($13.00 por 1M de tokens). O preço combinado usa uma proporção de 7:2:1 entre tokens de acerto do cache, entrada e saída.

Os provedores com o menor preço de tokens de entrada para o o3 são Azure ($2.00 por 1M de tokens de entrada), OpenAI ($2.00 por 1M de tokens de entrada) e OpenAI ($10.00 por 1M de tokens de entrada).

Os provedores com o menor preço de tokens de saída para o o3 são Azure ($8.00 por 1M de tokens de saída), OpenAI ($8.00 por 1M de tokens de saída) e OpenAI ($40.00 por 1M de tokens de saída).

Os preços do o3 variam em até 8.4x entre os provedores. O mais acessível é Azure, com $1.55 por 1M de tokens, enquanto OpenAI cobra $13.00 por 1M de tokens.

2 de 3 provedores são compatíveis com o modo JSON para o o3: Azure e OpenAI.

2 de 3 provedores são compatíveis com chamadas de funções para o o3: Azure e OpenAI.

Para o o3, OpenAI oferece o melhor desempenho, com a maior velocidade e a menor latência. Para otimizar os custos, Azure tem o preço mais competitivo.

Ao escolher um provedor para o o3, considere a velocidade de saída (para tarefas que exigem alta vazão), a latência (para aplicações interativas que precisam de respostas iniciais rápidas), o preço (para cargas de trabalho atentas aos custos) e os recursos da API, como modo JSON e chamadas de funções.

Sim. O desempenho dos provedores pode variar ao longo do tempo devido a mudanças na infraestrutura, balanceamento de carga e atualizações. Avaliamos continuamente todos os provedores e exibimos as tendências históricas de desempenho nos gráficos de evolução ao longo do tempo.

Para saber mais sobre a inteligência, as capacidades e as modalidades do o3, além de como ele se compara a outros modelos, consulte a página de visão geral do modelo. Ver visão geral do modelo