•

Proprietary model

•

Released diciembre de 2024

Nova Micro Benchmarks y análisis de proveedores de API

Comparación de modelos

Este análisis está pensado para ayudarte a elegir el mejor proveedor de API de Nova Micro para tu caso de uso.

Más rápido

#1
AmazonAmazon
246.2 t/s

Velocidad de salida

1 proveedor en total

Menor latencia

#1
AmazonAmazon
0.84 s

Tiempo hasta el primer token

1 proveedor en total

Menor precio

#1
AmazonAmazon
$0.03

Precio combinado (por 1M de tokens)

1 proveedor en total

Nova Micro está disponible a través de Amazon.

Aspectos destacados

Output tokens per second · Higher is better
Seconds to first answer token received · Lower is better
USD per 1M tokens (blended) · Lower is better

Actualización: La carga de trabajo predeterminada de medición de rendimiento se actualizó a 10k tokens de entrada para reflejar mejor los casos de uso en producción. Aún puedes seleccionar distintas cargas de trabajo arriba.

Precios

Pricing: Cache Hit, Input, and Output

Price (USD per M Tokens) · Lower is better · 10,000 input tokens

Pricing: Blended Price

Blended at 7:2:1 (cache-input-output) · USD per 1M tokens (blended) · Lower is better

Pricing: Cache Discount

1 - (cache hit price / input price) · Higher is better

Output Speed vs. Price

Blended at 7:2:1 (cache-input-output) · Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant

Velocidad

Medida por la velocidad de salida (tokens por segundo)

Output Speed: Nova Micro

Output speed: output tokens per second · 10,000 input tokens

Latency vs. Output Speed

Latency: seconds to first token received · Output speed: output tokens per second · 10,000 input tokens
Most attractive quadrant

Latencia

Medida por el tiempo (segundos) hasta el primer token

Tiempo hasta el primer token

Seconds to first token received · Lower is better · 10,000 input tokens

Tiempo de respuesta de extremo a extremo

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

Tiempo de respuesta de extremo a extremo

Seconds to output 500 tokens, including reasoning model 'thinking' time · Lower is better · 10,000 input tokens

Métricas clave de comparación y funciones de API

Logo de Amazon BedrockAmazon Bedrock
130k
Propietario
--
246
0.84
2.87
--

Preguntas frecuentes

Preguntas comunes sobre los proveedores de Nova Micro