NVIDIA Nemotron 3 Nano 30B A3B (Non-reasoning) Benchmarks y análisis de proveedores de API
Análisis de proveedores de API para NVIDIA Nemotron 3 Nano 30B A3B (Non-reasoning) en métricas de rendimiento como latencia (tiempo hasta el primer token), velocidad de salida (tokens de salida por segundo), precio y otras. Los proveedores de API medidos incluyen Novita (FP4) y DeepInfra.
Más rápido
Velocidad de salida
2 proveedores en total
Menor latencia
Tiempo hasta el primer token
2 proveedores en total
Menor precio
Precio combinado (por 1M de tokens)
2 proveedores en total
Nemotron 3 Nano está disponible a través de 2 proveedores de API, cada uno con distintas características de rendimiento y precios. A continuación se comparan las métricas clave entre proveedores.
- En velocidad de salida, los principales proveedores son Novita (FP4) (292.2 t/s) y DeepInfra (193.2 t/s).
- En latencia, DeepInfra (0.45s) y Novita (FP4) (0.96s) ofrecen el menor tiempo hasta el primer token.
- En precios, Novita (FP4) (0.07) y DeepInfra (0.07) ofrecen los menores precios combinados por 1M de tokens.
- Novita (FP4) ofrece un excelente equilibrio entre velocidad y costo. Para la menor latencia, DeepInfra es la mejor opción.
Aspectos destacados
Actualización: La carga de trabajo predeterminada de medición de rendimiento se actualizó a 10k tokens de entrada para reflejar mejor los casos de uso en producción. Aún puedes seleccionar distintas cargas de trabajo arriba.
Precios
Pricing: Cache Hit, Input, and Output
Pricing: Blended Price
Output Speed vs. Price
Velocidad
Medida por la velocidad de salida (tokens por segundo)
Output Speed: NVIDIA Nemotron 3 Nano 30B A3B (Non-reasoning)
Latency vs. Output Speed
Latencia
Medida por el tiempo (segundos) hasta el primer token
Tiempo hasta el primer token
Tiempo de respuesta de extremo a extremo
Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed
Tiempo de respuesta de extremo a extremo
Métricas clave de comparación y funciones de API
Preguntas frecuentes
Preguntas comunes sobre los proveedores de NVIDIA Nemotron 3 Nano 30B A3B (Non-reasoning)
NVIDIA Nemotron 3 Nano 30B A3B (Non-reasoning) está disponible a través de 2 proveedores de API: Novita (FP4) y DeepInfra. Cada proveedor ofrece distintas características de rendimiento y precios.
NVIDIA Nemotron 3 Nano 30B A3B (Non-reasoning) está disponible actualmente a través de 2 proveedores de API que medimos y monitoreamos.
Los proveedores más rápidos para NVIDIA Nemotron 3 Nano 30B A3B (Non-reasoning) por velocidad de salida son Novita (FP4) (292.2 t/s) y DeepInfra (193.2 t/s). La velocidad de salida mide qué tan rápido se generan tokens después de que el modelo comienza a responder.
Los proveedores con el menor tiempo hasta el primer token para NVIDIA Nemotron 3 Nano 30B A3B (Non-reasoning) son DeepInfra (0.45s) y Novita (FP4) (0.96s). Una menor latencia significa una respuesta inicial más rápida.
Los proveedores más económicos para NVIDIA Nemotron 3 Nano 30B A3B (Non-reasoning) por precio combinado son Novita (FP4) ($0.07 por 1M de tokens) y DeepInfra ($0.07 por 1M de tokens). El precio combinado usa una proporción 7:2:1 de aciertos de caché/entrada/salida.
Los proveedores con el menor precio de tokens de entrada para NVIDIA Nemotron 3 Nano 30B A3B (Non-reasoning) son Novita (FP4) ($0.05 por 1M de tokens de entrada) y DeepInfra ($0.05 por 1M de tokens de entrada).
Los proveedores con el menor precio de tokens de salida para NVIDIA Nemotron 3 Nano 30B A3B (Non-reasoning) son Novita (FP4) ($0.20 por 1M de tokens de salida) y DeepInfra ($0.20 por 1M de tokens de salida).
La velocidad de salida de NVIDIA Nemotron 3 Nano 30B A3B (Non-reasoning) varía significativamente entre proveedores. Novita (FP4) es el más rápido a 292.2 t/s, lo que es 1.5x más rápido que DeepInfra a 193.2 t/s.
Los 2 proveedores de NVIDIA Nemotron 3 Nano 30B A3B (Non-reasoning) admiten el modo JSON para salida estructurada.
Los 2 proveedores de NVIDIA Nemotron 3 Nano 30B A3B (Non-reasoning) admiten llamadas a funciones (uso de herramientas).
El mejor proveedor para NVIDIA Nemotron 3 Nano 30B A3B (Non-reasoning) depende de tus prioridades: Novita (FP4) ofrece la mayor velocidad de salida, DeepInfra tiene la menor latencia y Novita (FP4) ofrece los precios más competitivos.
Al elegir un proveedor para NVIDIA Nemotron 3 Nano 30B A3B (Non-reasoning), considera: velocidad de salida (para tareas intensivas en rendimiento), latencia (para aplicaciones interactivas que requieren primeras respuestas rápidas), precios (para cargas de trabajo sensibles al costo) y funciones de API como el modo JSON o las llamadas a funciones.
Sí, el rendimiento de un proveedor puede variar con el tiempo debido a cambios de infraestructura, balanceo de carga y actualizaciones. Medimos continuamente a todos los proveedores y mostramos las tendencias históricas de rendimiento en los gráficos "a lo largo del tiempo".
Para información sobre la inteligencia, las capacidades, las modalidades de NVIDIA Nemotron 3 Nano 30B A3B (Non-reasoning) y cómo se compara con otros modelos, consulta la página de resumen del modelo. Ver resumen del modelo