Baseten: inteligencia, rendimiento y precio de sus modelos

Baseten
Baseten

Análisis de los modelos de Baseten en métricas clave como calidad, precio, velocidad de salida, latencia, ventana de contexto y más. Este análisis está pensado para ayudarte a elegir el mejor modelo ofrecido por Baseten para tu caso de uso.

Más inteligente

#1
Kimi K3 (max)
Kimi K3 (max)
60
#2
DeepSeek V4 Pro 0813 (max)
DeepSeek V4 Pro 0813 (max)
53
#3
GLM-5.2 (max) (FAST)
GLM-5.2 (max) (FAST)
53
#4
GLM-5.2 (max)
GLM-5.2 (max)
53
#5
DeepSeek V4 Flash 0731 (max)
DeepSeek V4 Flash 0731 (max)
52

Índice de inteligencia

15 modelos en total

Más rápido

#1
Inkling Small
Inkling Small
363 t/s
#2
gpt-oss-120b (high)
gpt-oss-120b (high)
348 t/s
#3
gpt-oss-120b (low)
gpt-oss-120b (low)
338 t/s
#4
GLM-5.2 (max) (FAST)
GLM-5.2 (max) (FAST)
260 t/s
#5
Kimi K2.6
Kimi K2.6
238 t/s

Velocidad de salida

15 modelos en total

Menor precio

#1
DeepSeek V4 Flash 0731 (max)
DeepSeek V4 Flash 0731 (max)
$0.07
#2
gpt-oss-120b (high)
gpt-oss-120b (high)
$0.14
#3
gpt-oss-120b (low)
gpt-oss-120b (low)
$0.14
#4
Inkling Small
Inkling Small
$0.29
#5
GLM-4.7
GLM-4.7
$0.42

Precio combinado (por 1M de tokens)

15 modelos en total

Indica un modelo de razonamiento

Baseten ofrece 15 modelos, cada uno con distintas características de inteligencia, rendimiento y precio. A continuación se comparan las métricas clave entre modelos.

  • En inteligencia, los mejores modelos en Baseten son Kimi K3 (max) (60), DeepSeek V4 Pro 0813 (max) (53) y GLM-5.2 (max) (FAST) (53).
  • En velocidad de salida, los modelos más rápidos son Inkling Small (363 t/s), gpt-oss-120b (high) (348 t/s) y gpt-oss-120b (low) (338 t/s). La velocidad varía significativamente entre modelos, con una diferencia del 52% entre el más rápido y el más lento.
  • En latencia, GLM-4.7 (0.65s), DeepSeek V3.1 (FP8) (0.80s) y GLM-5.2 (FAST) (2.11s) ofrecen el menor tiempo hasta el primer token de respuesta.
  • En precios, DeepSeek V4 Flash 0731 (max) ($0.07), gpt-oss-120b (high) ($0.14) y gpt-oss-120b (low) ($0.14) ofrecen los menores precios combinados por 1M de tokens. Los precios varían hasta 5.9x entre modelos.
  • En tamaño de ventana de contexto, Kimi K3 (max) (1M), DeepSeek V4 Flash 0731 (max) (1M) y DeepSeek V4 Pro 0813 (max) (1M) admiten las ventanas de contexto más grandes en Baseten.

Aspectos destacados

Artificial Analysis Intelligence Index · Higher is better
Output tokens per second · Higher is better
USD per 1M tokens (blended) · Lower is better

Evaluaciones de inteligencia

Artificial Analysis Intelligence Index

Artificial Analysis Intelligence Index v4.1.1 incorporates 9 evaluations: GDPval-AA v2, 𝜏³-Banking, Terminal-Bench v2.1, SciCode, Humanity's Last Exam, GPQA Diamond, CritPt, AA-Omniscience, AA-LCR
Estimate (independent evaluation forthcoming)
Reasoning models are indicated by a lightbulb icon

Artificial Analysis Intelligence Index v4.1.1 includes: GDPval-AA v2, 𝜏³-Banking, Terminal-Bench v2.1, SciCode, Humanity's Last Exam, GPQA Diamond, CritPt, AA-Omniscience, AA-LCR. See Intelligence Index methodology for further details, including a breakdown of each evaluation and how we run them.

Intelligence Evaluations

Intelligence evaluations measured independently by Artificial Analysis · Higher is better
See more

Agentic real-world work tasks, (Elo-500)/2000

Agentic tool use

Agentic coding & terminal use

Coding

Reasoning & knowledge

Scientific reasoning

Physics reasoning

Knowledge

1 - hallucination rate

AA-LCRUpdated

Long context reasoning

Agentic knowledge work, Elo

Agentic SaaS workflows

Legal agentic work, criterion pass rate

Agentic business operations

Quantitative analysis on spreadsheets & documents

Instruction following

Long-horizon agentic tasks

Kubernetes incident root-cause analysis

Visual reasoning

Reasoning models are indicated by a lightbulb icon

While model intelligence generally translates across use cases, specific evaluations may be more relevant for certain use cases.

Artificial Analysis Intelligence Index v4.1.1 includes: GDPval-AA v2, 𝜏³-Banking, Terminal-Bench v2.1, SciCode, Humanity's Last Exam, GPQA Diamond, CritPt, AA-Omniscience, AA-LCR. See Intelligence Index methodology for further details, including a breakdown of each evaluation and how we run them.

Intelligence Index vs. Price

Blended at 7:2:1 (cache-input-output) · USD per 1M tokens (blended)
Most attractive quadrant
Pareto line
Reasoning models are indicated by a lightbulb icon

While higher intelligence models are typically more expensive, they do not all follow the same price-quality curve.

Ventana de contexto

Context Window

Context window: tokens limit · Higher is better
Reasoning models are indicated by a lightbulb icon

Larger context windows are relevant to RAG (Retrieval Augmented Generation) LLM workflows which typically involve reasoning and information retrieval of large amounts of data.

Maximum number of combined input & output tokens. Output tokens commonly have a significantly lower limit (varied by model).

Precios

Intelligence Index vs. Price

Blended at 7:2:1 (cache-input-output) · USD per 1M tokens (blended)
Most attractive quadrant
Pareto line
Reasoning models are indicated by a lightbulb icon

While higher intelligence models are typically more expensive, they do not all follow the same price-quality curve.

Resumen de rendimiento

Output Speed vs. Price

Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant
Pareto line
Reasoning models are indicated by a lightbulb icon

Tokens per second received while the model is generating tokens (ie. after first chunk has been received from the API for models which support streaming).

Price per token, shown in USD per million tokens. Price is a blend of cache hit, input, and output token prices using the selected ratio (default 7:2:1 cache-input-output).

Velocidad

Medida por la velocidad de salida (tokens por segundo)

Output Speed

Output tokens per second · Higher is better
Reasoning models are indicated by a lightbulb icon

Tokens per second received while the model is generating tokens (ie. after first chunk has been received from the API for models which support streaming).

Figures represent performance of the model's first-party API (e.g. OpenAI for o1) or the median across providers where a first-party API is not available (e.g. Meta's Llama models).

Latencia

Medida por el tiempo (segundos) hasta el primer token

Latency: Time To First Answer Token

Seconds to first answer token received · Accounts for reasoning model 'thinking' time
Reasoning models are indicated by a lightbulb icon

Time to first answer token received, in seconds, after API request sent. For reasoning models, this includes the 'thinking' time of the model before providing an answer. For models which do not support streaming, this represents time to receive the completion.

Tiempo de respuesta de extremo a extremo

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

End-to-End Response Time vs. Price

End-to-end response time: end-to-end seconds to output 500 tokens · USD per 1M tokens (blended)
Most attractive quadrant
Pareto line
Reasoning models are indicated by a lightbulb icon

Price per token, shown in USD per million tokens. Price is a blend of cache hit, input, and output token prices using the selected ratio (default 7:2:1 cache-input-output).

Análisis adicional
Logo de Kimi
Kimi K3 (max)
1.05M
Abierto
60
$1.26
109
0.91
23.90
18.39
Logo de DeepSeek
DeepSeek V4 Pro 0813 (max)
1M
Abierto
53
$1.09
143
1.12
18.60
13.98
Logo de Z AI
GLM-5.2 (max) (FAST)
524k
Abierto
53
$0.54
260
1.88
11.50
7.69
Logo de Z AI
GLM-5.2 (max)
261k
Abierto
53
$0.46
109
1.60
24.59
18.39
Logo de DeepSeek
DeepSeek V4 Flash 0731 (max)
1.05M
Abierto
52
$0.14
237
0.75
11.29
8.43
Logo de DeepSeek
DeepSeek V4 Pro (max)
131k
Abierto
45
--
--
--
--
--
Logo de Kimi
Kimi K2.6
262k
Abierto
45
$0.30
238
0.91
21.67
18.66
Logo de DeepSeek
DeepSeek V4 Pro (high)
131k
Abierto
44
$0.68
154
0.53
16.76
12.97
Logo de Kimi
Kimi K2.7 Code
262k
Abierto
43
$0.29
--
--
--
--
Logo de Thinking Machines
Inkling
262k
Abierto
42
$0.34
233
0.62
11.35
8.58
Logo de Thinking Machines
Inkling Small
262k
Abierto
41
$0.13
363
0.49
7.38
5.51
Logo de Kimi
Kimi K2.6
262k
Abierto
35*
--
--
--
--
--
Logo de Z AI
GLM-5.2 (FAST)
524k
Abierto
35
--
215
2.11
4.43
--
Logo de Z AI
GLM-4.7
200k
Abierto
34
$0.17
218
0.64
12.09
9.16
Logo de Z AI
GLM-4.7
200k
Abierto
27*
--
196
0.65
3.19
--
Logo de OpenAI
gpt-oss-120b (high)
128k
Abierto
24
$0.05
348
0.24
7.41
5.74
Logo de DeepSeek
DeepSeek V3.1 (FP8)
164k
Abierto
21*
--
187
0.80
3.47
--
Logo de OpenAI
gpt-oss-120b (low)
128k
Abierto
15
$0.01
338
0.21
7.62
5.92

Definiciones clave

Maximum number of combined input & output tokens. Output tokens commonly have a significantly lower limit (varied by model).

Preguntas frecuentes

Preguntas comunes sobre Baseten

El modelo más inteligente disponible en Baseten es Kimi K3 (max), con una puntuación de 60 en el Índice de Inteligencia.

El modelo más rápido en Baseten por velocidad de salida es Inkling Small, con 362.7 tokens por segundo.

El modelo con el menor tiempo hasta el primer token de respuesta en Baseten es GLM-4.7, con 0.65s. Una menor latencia significa una respuesta inicial más rápida.

El modelo más económico en Baseten por precio combinado es DeepSeek V4 Flash 0731 (max), a $0.07 por 1M de tokens (proporción 7:2:1 de aciertos de caché/entrada/salida).

Los precios en Baseten varían hasta 32x entre modelos, desde $0.07 por 1M de tokens para DeepSeek V4 Flash 0731 (max) hasta $2.31 por 1M de tokens para Kimi K3 (max).

Sí, Baseten ofrece una API compatible con OpenAI, lo que facilita cambiar desde OpenAI o usar integraciones existentes del SDK de OpenAI.

Sí, los 15 modelos en Baseten admiten el modo JSON para salida estructurada.

Sí, los 15 modelos en Baseten admiten llamadas a funciones (uso de herramientas).

Sí, Baseten ofrece 12 modelos de razonamiento: Kimi K3 (max), DeepSeek V4 Pro 0813 (max), GLM-5.2 (max) (FAST), GLM-5.2 (max), DeepSeek V4 Flash 0731 (max), Kimi K2.6, DeepSeek V4 Pro (high), Inkling, Inkling Small, GLM-4.7, gpt-oss-120b (high) y gpt-oss-120b (low). Los modelos de razonamiento usan pensamiento extendido para resolver problemas complejos antes de responder.

Sí, los 15 modelos en Baseten son modelos de pesos abiertos.

Sí, el rendimiento de un proveedor puede variar con el tiempo debido a cambios de infraestructura, balanceo de carga y actualizaciones. Medimos continuamente a todos los proveedores y mostramos las tendencias históricas de rendimiento en los gráficos "a lo largo del tiempo".

Al elegir un modelo en Baseten, considera: inteligencia (para tareas sensibles a la calidad), velocidad de salida (para tareas intensivas en rendimiento), latencia (para aplicaciones interactivas que requieren primeras respuestas rápidas), precios (para cargas de trabajo sensibles al costo) y funcionalidades como el tamaño de la ventana de contexto, el modo JSON o las llamadas a funciones.