This model is deprecated. We only continue performance benchmarking for the default 10k input token workload. Results for other workloads are historical and no longer updated.
IBM has launched a newer model, Granite 4.0 Micro. We suggest considering it instead.
For more information, see comparison of Granite 4.0 Micro to other models and API provider benchmarks for Granite 4.0 Micro.
Granite 3.3 8B (Non-reasoning) Benchmarking e análise de provedores de API
Esta análise ajuda você a escolher o melhor provedor de API de Granite 3.3 8B (Non-reasoning) para seu caso de uso.
Mais rápido
ReplicateVelocidade de saída
1 provedor no total
Menor latência
ReplicateTempo até o primeiro token
1 provedor no total
Menor preço
ReplicatePreço combinado (por 1M de tokens)
1 provedor no total
Granite 3.3 8B está disponível por meio da Replicate.
Destaques
Preços
Pricing: Cache Hit, Input, and Output
Pricing: Blended Price
Output Speed vs. Price
Velocidade
Medida pela velocidade de saída (tokens por segundo)
Output Speed: Granite 3.3 8B (Non-reasoning)
Latency vs. Output Speed
Latência
Medida pelo tempo (segundos) até o primeiro token
Tempo até o primeiro token
Tempo de resposta de ponta a ponta
Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed
Tempo de resposta de ponta a ponta
Principais métricas de comparação e recursos da API
| Replicate | 128k | Aberto | -- | 16 | 26.70 | 58.57 | -- | ||
Perguntas frequentes
Perguntas comuns sobre os provedores do Granite 3.3 8B (Non-reasoning)
Granite 3.3 8B (Non-reasoning) está disponível em 1 provedor de API: Replicate. Cada provedor oferece características de desempenho e preços diferentes.
Atualmente, o Granite 3.3 8B (Non-reasoning) está disponível em 1 provedor de API que avaliamos e acompanhamos.
O provedor mais rápido para o Granite 3.3 8B (Non-reasoning) em velocidade de saída é Replicate (15.7 t/s). A velocidade de saída mede a rapidez com que os tokens são gerados depois que o modelo começa a responder.
O provedor com o menor tempo até o primeiro token para o Granite 3.3 8B (Non-reasoning) é Replicate (26.70s). Uma latência menor significa um tempo de resposta inicial mais rápido.
O provedor mais acessível para o Granite 3.3 8B (Non-reasoning) em preço combinado é Replicate ($0.05 por 1M de tokens). O preço combinado usa uma proporção de 7:2:1 entre tokens de acerto do cache, entrada e saída.
O provedor com o menor preço de tokens de entrada para o Granite 3.3 8B (Non-reasoning) é Replicate ($0.03 por 1M de tokens de entrada).
O provedor com o menor preço de tokens de saída para o Granite 3.3 8B (Non-reasoning) é Replicate ($0.25 por 1M de tokens de saída).
Replicate lidera em todas as principais métricas do Granite 3.3 8B (Non-reasoning), com a maior velocidade, a menor latência e o preço mais competitivo.
Ao escolher um provedor para o Granite 3.3 8B (Non-reasoning), considere a velocidade de saída (para tarefas que exigem alta vazão), a latência (para aplicações interativas que precisam de respostas iniciais rápidas), o preço (para cargas de trabalho atentas aos custos) e os recursos da API, como modo JSON e chamadas de funções.
Sim. O desempenho dos provedores pode variar ao longo do tempo devido a mudanças na infraestrutura, balanceamento de carga e atualizações. Avaliamos continuamente todos os provedores e exibimos as tendências históricas de desempenho nos gráficos de evolução ao longo do tempo.
Para saber mais sobre a inteligência, as capacidades e as modalidades do Granite 3.3 8B (Non-reasoning), além de como ele se compara a outros modelos, consulte a página de visão geral do modelo. Ver visão geral do modelo