gpt-oss-20b (Low) Benchmarking e análise de provedores de API

gpt-oss-20b (Low) está disponível em 7 provedores de API: Groq, Hyperbolic, CoreWeave, Cloudflare, Amazon, Novita e Google Vertex. Cada provedor oferece características de desempenho e preços diferentes.

Atualmente, o gpt-oss-20b (Low) está disponível em 7 provedores de API que avaliamos e acompanhamos.

Os provedores mais rápidos para o gpt-oss-20b (Low) em velocidade de saída são Groq (910.0 t/s), Google Vertex (405.7 t/s) e CoreWeave (195.4 t/s). A velocidade de saída mede a rapidez com que os tokens são gerados depois que o modelo começa a responder.

Os provedores com o menor tempo até o primeiro token da resposta final para o gpt-oss-20b (Low) são Groq (3.00s), Google Vertex (5.29s) e CoreWeave (10.77s). Uma latência menor significa um tempo de resposta inicial mais rápido.

Os provedores mais acessíveis para o gpt-oss-20b (Low) em preço combinado são CoreWeave ($0.04 por 1M de tokens), Novita ($0.05 por 1M de tokens) e Google Vertex ($0.09 por 1M de tokens). O preço combinado usa uma proporção de 7:2:1 entre tokens de acerto do cache, entrada e saída.

Os provedores com o menor preço de tokens de entrada para o gpt-oss-20b (Low) são CoreWeave ($0.03 por 1M de tokens de entrada), Novita ($0.04 por 1M de tokens de entrada) e Amazon ($0.07 por 1M de tokens de entrada).

Os provedores com o menor preço de tokens de saída para o gpt-oss-20b (Low) são Hyperbolic ($0.10 por 1M de tokens de saída), CoreWeave ($0.13 por 1M de tokens de saída) e Novita ($0.15 por 1M de tokens de saída).

Os preços do gpt-oss-20b (Low) variam em até 5.3x entre os provedores. O mais acessível é CoreWeave, com $0.04 por 1M de tokens, enquanto Cloudflare cobra $0.21 por 1M de tokens.

A velocidade de saída do gpt-oss-20b (Low) varia significativamente entre os provedores. Groq é o mais rápido, com 910.0 t/s, 5.2x mais rápido que Novita, com 175.9 t/s.

Todos os 7 provedores do gpt-oss-20b (Low) são compatíveis com o modo JSON para saída estruturada.

5 de 7 provedores são compatíveis com chamadas de funções para o gpt-oss-20b (Low): Groq, CoreWeave, Cloudflare, Amazon e Google Vertex.

Para o gpt-oss-20b (Low), Groq oferece o melhor desempenho, com a maior velocidade e a menor latência. Para otimizar os custos, CoreWeave tem o preço mais competitivo.

Ao escolher um provedor para o gpt-oss-20b (Low), considere a velocidade de saída (para tarefas que exigem alta vazão), a latência (para aplicações interativas que precisam de respostas iniciais rápidas), o preço (para cargas de trabalho atentas aos custos) e os recursos da API, como modo JSON e chamadas de funções.

Sim. O desempenho dos provedores pode variar ao longo do tempo devido a mudanças na infraestrutura, balanceamento de carga e atualizações. Avaliamos continuamente todos os provedores e exibimos as tendências históricas de desempenho nos gráficos de evolução ao longo do tempo.

Para saber mais sobre a inteligência, as capacidades e as modalidades do gpt-oss-20b (Low), além de como ele se compara a outros modelos, consulte a página de visão geral do modelo. Ver visão geral do modelo