Este modelo está obsoleto. Continuamos medindo o desempenho apenas para a carga padrão de 10 mil tokens de entrada. Os resultados de outras cargas são históricos e não são mais atualizados.

Amazon lançou uma versão mais recente, Nova 2.0 Lite. Sugerimos considerá-la como alternativa.

•

Proprietary model

•

Released dezembro de 2024

Nova Lite Benchmarking e análise de provedores de API

Comparação de modelos

Esta análise ajuda você a escolher o melhor provedor de API de Nova Lite para seu caso de uso.

Mais rápido

#1
AmazonAmazon
170.1 t/s

Velocidade de saída

1 provedor no total

Menor latência

#1
AmazonAmazon
0.96 s

Tempo até o primeiro token

1 provedor no total

Menor preço

#1
AmazonAmazon
$0.05

Preço combinado (por 1M de tokens)

1 provedor no total

Nova Lite está disponível por meio da Amazon.

Output tokens per second · Higher is better
Seconds to first answer token received · Lower is better
USD per 1M tokens (blended) · Lower is better

Preços

Preços: acertos de cache, entrada e saída

Price (USD per M Tokens) · Lower is better · 10,000 input tokens

Preços: Preço combinado

Blended at 7:2:1 (cache-input-output) · USD per 1M tokens (blended) · Lower is better

Preços: Desconto de cache

1 - (cache hit price / input price) · Higher is better

Velocidade de saída vs. preço

Blended at 7:2:1 (cache-input-output) · Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant

Velocidade

Medida pela velocidade de saída (tokens por segundo)

Velocidade de saída: Nova Lite

Velocidade de saída: tokens de saída por segundo · 10,000 input tokens

Latência vs. velocidade de saída

Latency: seconds to first token received · Output speed: output tokens per second · 10,000 input tokens
Most attractive quadrant

Latência

Medida pelo tempo (segundos) até o primeiro token

Tempo até o primeiro token

Seconds to first token received · Lower is better · 10,000 input tokens

Tempo de resposta de ponta a ponta

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

Tempo de resposta de ponta a ponta

Seconds to output 500 tokens, including reasoning model 'thinking' time · Lower is better · 10,000 input tokens

Principais métricas de comparação e recursos da API

Logo: Amazon BedrockAmazon Bedrock
300k
Proprietário
--
175
0.95
3.80
--

Perguntas frequentes

Perguntas comuns sobre os provedores do Nova Lite