Nemotron 3.5 Lightning Benchmarking e análise de provedores de API
Esta análise ajuda você a escolher o melhor provedor de API de Nemotron 3.5 Lightning para seu caso de uso.
Menor tempo por tarefa
PrimaLabs (NVFP4)
Fireworks (BF16)
Crusoe (BF16)
CoreWeave (BF16)
DeepInfra (NVFP4)Tempo por tarefa do Intelligence Index (minutos)
6 provedores no total
Menor custo por tarefa
Fireworks (BF16)CoreWeave (BF16)Crusoe (BF16)DeepInfra (NVFP4)
Nebius (BF16)Custo por tarefa do Intelligence Index
6 provedores no total
Nemotron 3.5 Lightning está disponível em 6 provedores de API, cada um com características de desempenho e preços diferentes. Veja abaixo uma comparação das principais métricas entre os provedores.
- Em tempo por tarefa, PrimaLabs (NVFP4) (2.4 min), Fireworks (BF16) (3.9 min) e Crusoe (BF16) (4.3 min) concluem uma tarefa do Intelligence Index mais rápido.
- Em custo por tarefa, Fireworks (BF16) ($0.07), CoreWeave (BF16) ($0.24) e Crusoe (BF16) ($0.26) são os mais baratos por tarefa do Intelligence Index. O custo varia até 7.9x entre provedores.
Preços
Custo por tarefa do Intelligence Index: Nemotron 3.5 Lightning
Preços: acertos de cache, entrada e saída: Nemotron 3.5 Lightning
Velocidade de saída vs. custo por tarefa: Nemotron 3.5 Lightning
Velocidade
Média das cargas de trabalho medidas de solicitação única e agênticas multiturno
Tempo por tarefa do Intelligence Index: Nemotron 3.5 Lightning
Latência
Média das cargas de trabalho medidas de solicitação única e agênticas multiturno
Tempo até o primeiro token da resposta final: Nemotron 3.5 Lightning
Confiabilidade
Parcela de solicitações em que o endpoint falhou, em todas as cargas de trabalho medidas de solicitação única e agênticas multiturno
Taxa de erros do endpoint: Nemotron 3.5 Lightning
Cache
Taxa de acertos do cache: Nemotron 3.5 Lightning
Custo por tarefa vs. Taxa de acertos do cache: Nemotron 3.5 Lightning
Principais métricas de comparação e recursos da API
Perguntas frequentes
Perguntas comuns sobre os provedores do Nemotron 3.5 Lightning
Nemotron 3.5 Lightning está disponível em 6 provedores de API: DeepInfra (NVFP4), Nebius (BF16), CoreWeave (BF16), Fireworks (BF16), PrimaLabs (NVFP4) e Crusoe (BF16). Cada provedor oferece características de desempenho e preços diferentes.
Atualmente, o Nemotron 3.5 Lightning está disponível em 6 provedores de API que avaliamos e acompanhamos.
Por tempo por tarefa, os provedores mais rápidos para o Nemotron 3.5 Lightning são PrimaLabs (NVFP4) (2.4 min), Fireworks (BF16) (3.9 min) e Crusoe (BF16) (4.3 min). O tempo por tarefa divide os tokens de saída do modelo por tarefa do Intelligence Index pela velocidade de saída de ponta a ponta de cada provedor.
Os provedores com o menor tempo até o primeiro token da resposta final para o Nemotron 3.5 Lightning são PrimaLabs (NVFP4) (6.81s), Fireworks (BF16) (12.23s) e CoreWeave (BF16) (13.02s). Uma latência menor significa um tempo de resposta inicial mais rápido.
Os provedores mais acessíveis para o Nemotron 3.5 Lightning em preço combinado são Fireworks (BF16) ($0.04 por 1M de tokens), Crusoe (BF16) ($0.05 por 1M de tokens) e CoreWeave (BF16) ($0.06 por 1M de tokens). O preço combinado usa uma proporção de 7:2:1 entre tokens de acerto do cache, entrada e saída.
Os provedores com o menor preço de tokens de entrada para o Nemotron 3.5 Lightning são Fireworks (BF16) ($0.05 por 1M de tokens de entrada), Crusoe (BF16) ($0.05 por 1M de tokens de entrada) e DeepInfra (NVFP4) ($0.06 por 1M de tokens de entrada).
Os provedores com o menor preço de tokens de saída para o Nemotron 3.5 Lightning são DeepInfra (NVFP4) ($0.16 por 1M de tokens de saída), CoreWeave (BF16) ($0.20 por 1M de tokens de saída) e Fireworks (BF16) ($0.20 por 1M de tokens de saída).
Os preços do Nemotron 3.5 Lightning variam em até 2.7x entre os provedores. O mais acessível é Fireworks (BF16), com $0.04 por 1M de tokens, enquanto PrimaLabs (NVFP4) cobra $0.10 por 1M de tokens.
O tempo por tarefa do Nemotron 3.5 Lightning varia significativamente entre os provedores. PrimaLabs (NVFP4) é o mais rápido, com 2.4 minutos por tarefa do Intelligence Index, 2.8x mais rápido que Nebius (BF16), com 6.8 minutos.
Todos os 6 provedores do Nemotron 3.5 Lightning são compatíveis com o modo JSON para saída estruturada.
5 de 6 provedores são compatíveis com chamadas de funções para o Nemotron 3.5 Lightning: DeepInfra (NVFP4), Nebius (BF16), CoreWeave (BF16), Fireworks (BF16) e PrimaLabs (NVFP4).
Para o Nemotron 3.5 Lightning, PrimaLabs (NVFP4) oferece o melhor desempenho, com o menor tempo por tarefa e a menor latência. Para otimizar os custos, Fireworks (BF16) tem o preço mais competitivo.
Ao escolher um provedor para o Nemotron 3.5 Lightning, considere o tempo por tarefa (a rapidez com que o provedor conclui uma tarefa do Intelligence Index), a latência (para aplicações interativas que precisam de respostas iniciais rápidas), o preço (para cargas de trabalho atentas aos custos) e os recursos da API, como modo JSON e chamadas de funções.
Sim. O desempenho dos provedores pode variar ao longo do tempo devido a mudanças na infraestrutura, balanceamento de carga e atualizações. Avaliamos continuamente todos os provedores e exibimos as tendências históricas de desempenho nos gráficos de evolução ao longo do tempo.
Para saber mais sobre a inteligência, as capacidades e as modalidades do Nemotron 3.5 Lightning, além de como ele se compara a outros modelos, consulte a página de visão geral do modelo. Ver visão geral do modelo