Granite 4.2 8B Benchmarking e análise de provedores de API

Granite 4.2 8B está disponível em 2 provedores de API: CoreWeave e DeepInfra. Cada provedor oferece características de desempenho e preços diferentes.

Atualmente, o Granite 4.2 8B está disponível em 2 provedores de API que avaliamos e acompanhamos.

Os provedores mais rápidos para o Granite 4.2 8B em velocidade de saída são DeepInfra (102.0 t/s) e CoreWeave (60.3 t/s). A velocidade de saída mede a rapidez com que os tokens são gerados depois que o modelo começa a responder.

Os provedores com o menor tempo até o primeiro token da resposta final para o Granite 4.2 8B são DeepInfra (20.48s) e CoreWeave (34.00s). Uma latência menor significa um tempo de resposta inicial mais rápido.

Os provedores mais acessíveis para o Granite 4.2 8B em preço combinado são DeepInfra ($0.05 por 1M de tokens) e CoreWeave ($0.07 por 1M de tokens). O preço combinado usa uma proporção de 7:2:1 entre tokens de acerto do cache, entrada e saída.

Os provedores com o menor preço de tokens de entrada para o Granite 4.2 8B são DeepInfra ($0.06 por 1M de tokens de entrada) e CoreWeave ($0.10 por 1M de tokens de entrada).

Os provedores com o menor preço de tokens de saída para o Granite 4.2 8B são CoreWeave ($0.15 por 1M de tokens de saída) e DeepInfra ($0.25 por 1M de tokens de saída).

Os preços do Granite 4.2 8B variam em até 1.5x entre os provedores. O mais acessível é DeepInfra, com $0.05 por 1M de tokens, enquanto CoreWeave cobra $0.07 por 1M de tokens.

A velocidade de saída do Granite 4.2 8B varia significativamente entre os provedores. DeepInfra é o mais rápido, com 102.0 t/s, 1.7x mais rápido que CoreWeave, com 60.3 t/s.

Todos os 2 provedores do Granite 4.2 8B são compatíveis com o modo JSON para saída estruturada.

Todos os 2 provedores do Granite 4.2 8B são compatíveis com chamadas de funções (uso de ferramentas).

DeepInfra lidera em todas as principais métricas do Granite 4.2 8B, com a maior velocidade, a menor latência e o preço mais competitivo.

Ao escolher um provedor para o Granite 4.2 8B, considere a velocidade de saída (para tarefas que exigem alta vazão), a latência (para aplicações interativas que precisam de respostas iniciais rápidas), o preço (para cargas de trabalho atentas aos custos) e os recursos da API, como modo JSON e chamadas de funções.

Sim. O desempenho dos provedores pode variar ao longo do tempo devido a mudanças na infraestrutura, balanceamento de carga e atualizações. Avaliamos continuamente todos os provedores e exibimos as tendências históricas de desempenho nos gráficos de evolução ao longo do tempo.

Para saber mais sobre a inteligência, as capacidades e as modalidades do Granite 4.2 8B, além de como ele se compara a outros modelos, consulte a página de visão geral do modelo. Ver visão geral do modelo