gpt-oss-120b (High) Benchmarking e análise de provedores de API
Esta análise ajuda você a escolher o melhor provedor de API de gpt-oss-120b (High) para seu caso de uso.
Mais rápido
Velocidade de saída
18 provedores no total
Menor latência
Tempo até o primeiro token da resposta final
18 provedores no total
Menor preço
Preço combinado (por 1M de tokens)
18 provedores no total
gpt-oss-120b (high) está disponível em 18 provedores de API, cada um com características de desempenho e preços diferentes. Veja abaixo uma comparação das principais métricas entre os provedores.
- Em velocidade de saída, os principais provedores são Cerebras (1,740.8 t/s), SambaNova (706.4 t/s) e Groq (472.6 t/s). A velocidade varia significativamente entre os provedores, com uma diferença de 4137% entre o mais rápido e o mais lento.
- Em latência, Cerebras (1.60s), SambaNova (3.97s) e Groq (4.95s) têm o menor tempo até o primeiro token da resposta final.
- Em preço, CoreWeave (0.04), DeepInfra (0.05) e Crusoe (0.07) têm os menores preços combinados por 1M de tokens. Os preços variam em até 8.9x entre os provedores.
- Cerebras oferece o melhor desempenho, com a maior velocidade e a menor latência. Para otimizar os custos, CoreWeave tem o preço mais competitivo.
Atualização: A carga de trabalho padrão do benchmarking de desempenho passou a usar 10k tokens de entrada para representar melhor os casos de uso em produção. Você ainda pode selecionar outras cargas de trabalho acima.
Acurácia do endpoint
Índice de acurácia de endpoints: gpt-oss-120b (High)
Preços
Preços: acertos de cache, entrada e saída
Preços: Preço combinado
Preços: Desconto de cache
Velocidade de saída vs. preço
Velocidade
Medida pela velocidade de saída (tokens por segundo)
Velocidade de saída: gpt-oss-120b (High)
Latência vs. velocidade de saída
Latência
Medida pelo tempo (segundos) até o primeiro token
Tempo até o primeiro token da resposta final
Tempo de resposta de ponta a ponta
Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed
Tempo de resposta de ponta a ponta
Principais métricas de comparação e recursos da API
86% | 131k | Aberto | -- | 471 | 0.71 | 6.02 | 4.24 | |||
70% | 116k | Aberto | $0.23 | -- | -- | -- | -- | |||
97% | 128k | Aberto | $0.12 | 100 | 1.39 | 26.29 | 19.92 | |||
98% | 131k | Aberto | $0.02 | 43 | 1.22 | 59.44 | 46.57 | |||
93% | 131k | Aberto | $0.11 | 314 | 0.71 | 8.66 | 6.36 | |||
91% | 131k | Aberto | $0.04 | 184 | 1.30 | 14.89 | 10.88 | |||
84% | 131k | Aberto | $0.11 | 277 | 0.81 | 9.83 | 7.21 | |||
97% | 131k | Aberto | $0.03 | 51 | 0.60 | 49.98 | 39.51 | |||
87% | 131k | Aberto | $0.23 | 1,781 | 0.43 | 1.84 | 1.12 | |||
72% | 131k | Aberto | $0.06 | 40 | 38.59 | 100.33 | 49.39 | |||
n/d | 131k | Aberto | $0.04 | 205 | 0.39 | 12.56 | 9.73 | |||
n/d | 128k | Aberto | $0.07 | 188 | 0.21 | 13.49 | 10.62 | |||
98% | 131k | Aberto | $0.15 | 709 | 1.12 | 4.65 | 2.82 | |||
98% | 131k | Aberto | $0.06 | 148 | 0.80 | 17.75 | 13.56 | |||
97% | 128k | Aberto | $0.11 | 240 | 1.01 | 11.44 | 8.34 | |||
n/d | 131k | Aberto | $0.19 | -- | -- | -- | -- | |||
101% | 131k | Aberto | $0.11 | 86 | 1.03 | 30.10 | 23.26 | |||
77% | 131k | Aberto | $0.11 | 116 | 0.41 | 22.00 | 17.28 | |||
Perguntas frequentes
Perguntas comuns sobre os provedores do gpt-oss-120b (High)
gpt-oss-120b (High) está disponível em 18 provedores de API: Groq, Cloudflare, Scaleway, CoreWeave, Azure, Novita, DeepInfra (Turbo), DeepInfra, Cerebras, Google Vertex, Crusoe, Baseten, SambaNova, Parasail, Nebius (Base), Hyperbolic, Amazon e Together AI. Cada provedor oferece características de desempenho e preços diferentes.
Atualmente, o gpt-oss-120b (High) está disponível em 18 provedores de API que avaliamos e acompanhamos.
Os preços do gpt-oss-120b (High) variam em até 8.9x entre os provedores. O mais acessível é CoreWeave, com $0.04 por 1M de tokens, enquanto Cloudflare cobra $0.39 por 1M de tokens.
Todos os 18 provedores do gpt-oss-120b (High) são compatíveis com o modo JSON para saída estruturada.
Todos os 18 provedores do gpt-oss-120b (High) são compatíveis com chamadas de funções (uso de ferramentas).
Ao escolher um provedor para o gpt-oss-120b (High), considere a velocidade de saída (para tarefas que exigem alta vazão), a latência (para aplicações interativas que precisam de respostas iniciais rápidas), o preço (para cargas de trabalho atentas aos custos) e os recursos da API, como modo JSON e chamadas de funções.
Sim. O desempenho dos provedores pode variar ao longo do tempo devido a mudanças na infraestrutura, balanceamento de carga e atualizações. Avaliamos continuamente todos os provedores e exibimos as tendências históricas de desempenho nos gráficos de evolução ao longo do tempo.
Para saber mais sobre a inteligência, as capacidades e as modalidades do gpt-oss-120b (High), além de como ele se compara a outros modelos, consulte a página de visão geral do modelo. Ver visão geral do modelo