Nemotron 3.5 Lightning Benchmarks y análisis de proveedores de API
Este análisis está pensado para ayudarte a elegir el mejor proveedor de API de Nemotron 3.5 Lightning para tu caso de uso.
Más rápido
Fireworks (BF16)
Crusoe (BF16)
Nebius (BF16)
CoreWeave (BF16)Velocidad de salida
6 proveedores en total
Menor latencia
Fireworks (BF16)Crusoe (BF16)Nebius (BF16)CoreWeave (BF16)Tiempo hasta el primer token de respuesta
6 proveedores en total
Menor precio
Fireworks (BF16)Crusoe (BF16)Nebius (BF16)CoreWeave (BF16)
DeepInfra (NVFP4)Precio combinado (por 1M de tokens)
6 proveedores en total
Nemotron 3.5 Lightning está disponible a través de 6 proveedores de API, cada uno con distintas características de rendimiento y precios. A continuación se comparan las métricas clave entre proveedores.
- En velocidad de salida, los principales proveedores son Fireworks (BF16) (347.7 t/s), Crusoe (BF16) (301.1 t/s) y Nebius (BF16) (256.2 t/s). La velocidad varía significativamente entre proveedores, con una diferencia del 166% entre el más rápido y el más lento.
- En latencia, Fireworks (BF16) (6.22s), Crusoe (BF16) (7.09s) y Nebius (BF16) (8.89s) ofrecen el menor tiempo hasta el primer token de respuesta.
- En precios, Fireworks (BF16) (0.04), Crusoe (BF16) (0.05) y Nebius (BF16) (0.08) ofrecen los menores precios combinados por 1M de tokens. Los precios varían hasta 4.1x entre proveedores.
- Fireworks (BF16) destaca como el líder general, al ubicarse primero en las tres categorías: velocidad, latencia y precios.
Aspectos destacados
Actualización: La carga de trabajo predeterminada de medición de rendimiento se actualizó a 10k tokens de entrada para reflejar mejor los casos de uso en producción. Aún puedes seleccionar distintas cargas de trabajo arriba.
Precios
Pricing: Cache Hit, Input, and Output
Pricing: Blended Price
Pricing: Cache Discount
Output Speed vs. Price
Velocidad
Medida por la velocidad de salida (tokens por segundo)
Output Speed: Nemotron 3.5 Lightning
Latency vs. Output Speed
Latencia
Medida por el tiempo (segundos) hasta el primer token
Tiempo hasta el primer token de respuesta
Tiempo de respuesta de extremo a extremo
Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed
Tiempo de respuesta de extremo a extremo
Métricas clave de comparación y funciones de API
Preguntas frecuentes
Preguntas comunes sobre los proveedores de Nemotron 3.5 Lightning
Nemotron 3.5 Lightning está disponible a través de 6 proveedores de API: DeepInfra (NVFP4), Nebius (BF16), CoreWeave (BF16), Bitdeer AI (BF16), Fireworks (BF16) y Crusoe (BF16). Cada proveedor ofrece distintas características de rendimiento y precios.
Nemotron 3.5 Lightning está disponible actualmente a través de 6 proveedores de API que medimos y monitoreamos.
Los proveedores más rápidos para Nemotron 3.5 Lightning por velocidad de salida son Fireworks (BF16) (347.7 t/s), Crusoe (BF16) (301.1 t/s) y Nebius (BF16) (256.2 t/s). La velocidad de salida mide qué tan rápido se generan tokens después de que el modelo comienza a responder.
Los proveedores con el menor tiempo hasta el primer token de respuesta para Nemotron 3.5 Lightning son Fireworks (BF16) (6.22s), Crusoe (BF16) (7.09s) y Nebius (BF16) (8.89s). Una menor latencia significa una respuesta inicial más rápida.
Los proveedores más económicos para Nemotron 3.5 Lightning por precio combinado son Fireworks (BF16) ($0.04 por 1M de tokens), Crusoe (BF16) ($0.05 por 1M de tokens) y Nebius (BF16) ($0.08 por 1M de tokens). El precio combinado usa una proporción 7:2:1 de aciertos de caché/entrada/salida.
Los proveedores con el menor precio de tokens de entrada para Nemotron 3.5 Lightning son Fireworks (BF16) ($0.05 por 1M de tokens de entrada), Crusoe (BF16) ($0.05 por 1M de tokens de entrada) y Nebius (BF16) ($0.06 por 1M de tokens de entrada).
Los proveedores con el menor precio de tokens de salida para Nemotron 3.5 Lightning son DeepInfra (NVFP4) ($0.20 por 1M de tokens de salida), Fireworks (BF16) ($0.20 por 1M de tokens de salida) y Crusoe (BF16) ($0.20 por 1M de tokens de salida).
Los precios de Nemotron 3.5 Lightning varían hasta 4.1x entre proveedores. El más económico es Fireworks (BF16) a $0.04 por 1M de tokens, mientras que Bitdeer AI (BF16) cobra $0.15 por 1M de tokens.
La velocidad de salida de Nemotron 3.5 Lightning varía significativamente entre proveedores. Fireworks (BF16) es el más rápido a 347.7 t/s, lo que es 2.7x más rápido que CoreWeave (BF16) a 130.7 t/s.
Los 6 proveedores de Nemotron 3.5 Lightning admiten el modo JSON para salida estructurada.
5 de 6 proveedores admiten llamadas a funciones para Nemotron 3.5 Lightning: DeepInfra (NVFP4), Nebius (BF16), CoreWeave (BF16), Bitdeer AI (BF16) y Fireworks (BF16).
Fireworks (BF16) lidera en todas las métricas clave para Nemotron 3.5 Lightning, con la mayor velocidad, la menor latencia y los precios más competitivos.
Al elegir un proveedor para Nemotron 3.5 Lightning, considera: velocidad de salida (para tareas intensivas en rendimiento), latencia (para aplicaciones interactivas que requieren primeras respuestas rápidas), precios (para cargas de trabajo sensibles al costo) y funciones de API como el modo JSON o las llamadas a funciones.
Sí, el rendimiento de un proveedor puede variar con el tiempo debido a cambios de infraestructura, balanceo de carga y actualizaciones. Medimos continuamente a todos los proveedores y mostramos las tendencias históricas de rendimiento en los gráficos "a lo largo del tiempo".
Para información sobre la inteligencia, las capacidades, las modalidades de Nemotron 3.5 Lightning y cómo se compara con otros modelos, consulta la página de resumen del modelo. Ver resumen del modelo