Baseten：モデルの知能、性能、料金

Baseten
Baseten

Basetenのモデルを、品質、料金、出力速度、遅延、コンテキストウィンドウなどの主要指標で分析します。 この分析は、ユースケースに最適なBaseten提供モデルを選ぶための参考情報です。

最高の知能

#1
Kimi K3 (max)
Kimi K3 (max)
60
#2
GLM-5.2 (max) (FAST)
GLM-5.2 (max) (FAST)
53
#3
GLM-5.2 (max)
GLM-5.2 (max)
53
#4
DeepSeek V4 Flash 0731 (max)
DeepSeek V4 Flash 0731 (max)
52
#5
Kimi K2.6
Kimi K2.6
45

Intelligence Index

モデル合計：14件

最速

#1
Inkling Small
Inkling Small
341 t/s
#2
DeepSeek V4 Flash 0731 (max)
DeepSeek V4 Flash 0731 (max)
271 t/s
#3
Inkling
Inkling
228 t/s
#4
GLM-5.2 (max) (FAST)
GLM-5.2 (max) (FAST)
196 t/s
#5
Kimi K2.6
Kimi K2.6
190 t/s

出力速度

モデル合計：14件

最安料金

#1
DeepSeek V4 Flash 0731 (max)
DeepSeek V4 Flash 0731 (max)
$0.07
#2
gpt-oss-120b (high)
gpt-oss-120b (high)
$0.14
#3
gpt-oss-120b (low)
gpt-oss-120b (low)
$0.14
#4
GLM-4.7
GLM-4.7
$0.42
#5
GLM-4.7
GLM-4.7
$0.42

ブレンド料金（100万トークンあたり）

モデル合計：14件

推論モデルを示します

Basetenは14モデルを提供しており、知能、性能、料金の特性はそれぞれ異なります。 以下でモデル間の主要指標を比較します。

  • Basetenで知能が上位のモデルはKimi K3 (max)（60）、GLM-5.2 (max) (FAST)（53）、GLM-5.2 (max)（53）です。
  • 出力速度が最も速いモデルはInkling Small（341 t/s）、DeepSeek V4 Flash 0731 (max)（271 t/s）、Inkling（228 t/s）です。 モデル間の速度差は大きく、最速と最遅で80%の差があります。
  • 遅延では、GLM-4.7（0.69秒）、DeepSeek V3.1 (FP8)（0.77秒）、GLM-5.2 (FAST)（1.41秒）の最初の回答トークンまでの時間が最短です。
  • 料金では、DeepSeek V4 Flash 0731 (max)（$0.07）、gpt-oss-120b (high)（$0.14）、gpt-oss-120b (low)（$0.14）の100万トークンあたりのブレンド料金が最安です。 モデル間で料金に最大5.9倍の差があります。
  • Basetenで最大のコンテキストウィンドウに対応するモデルはKimi K3 (max)（1M）、DeepSeek V4 Flash 0731 (max)（1M）、GLM-5.2 (max) (FAST)（524k）です。

ハイライト

知能

Artificial Analysis Intelligence Index · Higher is better

速度

Output tokens per second · Higher is better

料金

USD per 1M tokens (blended) · Lower is better

知能評価

Artificial Analysis Intelligence Index

Artificial Analysis Intelligence Index v4.1.1 incorporates 9 evaluations: GDPval-AA v2, 𝜏³-Banking, Terminal-Bench v2.1, SciCode, Humanity's Last Exam, GPQA Diamond, CritPt, AA-Omniscience, AA-LCR
Estimate (independent evaluation forthcoming)
Reasoning models are indicated by a lightbulb icon

Artificial Analysis Intelligence Index v4.1.1 includes: GDPval-AA v2, 𝜏³-Banking, Terminal-Bench v2.1, SciCode, Humanity's Last Exam, GPQA Diamond, CritPt, AA-Omniscience, AA-LCR. See Intelligence Index methodology for further details, including a breakdown of each evaluation and how we run them.

Intelligence Evaluations

Intelligence evaluations measured independently by Artificial Analysis · Higher is better
See more
GDPval-AA v2

Agentic real-world work tasks, (Elo-500)/2000

𝜏³-BankingUpdated

Agentic tool use

Terminal-Bench v2.1

Agentic coding & terminal use

SciCode

Coding

Humanity's Last ExamUpdated

Reasoning & knowledge

GPQA Diamond

Scientific reasoning

CritPt

Physics reasoning

AA-Omniscience AccuracyUpdated

Knowledge

AA-Omniscience Non-Hallucination RateUpdated

1 - hallucination rate

AA-LCRUpdated

Long context reasoning

AA-Briefcase

Agentic knowledge work, Elo

AutomationBench-AA

Agentic SaaS workflows

Harvey LAB-AA

Legal agentic work, criterion pass rate

EnterpriseOps-Gym-AA

Agentic business operations

AA-AnalystAgentNew

Quantitative analysis on spreadsheets & documents

IFBench

Instruction following

APEX-Agents-AA

Long-horizon agentic tasks

ITBench-AA

Kubernetes incident root-cause analysis

MMMU-Pro

Visual reasoning

Reasoning models are indicated by a lightbulb icon

While model intelligence generally translates across use cases, specific evaluations may be more relevant for certain use cases.

Artificial Analysis Intelligence Index v4.1.1 includes: GDPval-AA v2, 𝜏³-Banking, Terminal-Bench v2.1, SciCode, Humanity's Last Exam, GPQA Diamond, CritPt, AA-Omniscience, AA-LCR. See Intelligence Index methodology for further details, including a breakdown of each evaluation and how we run them.

Intelligence Index vs. Price

Blended at 7:2:1 (cache-input-output) · USD per 1M tokens (blended)
Most attractive quadrant
Pareto line
Reasoning models are indicated by a lightbulb icon

While higher intelligence models are typically more expensive, they do not all follow the same price-quality curve.

コンテキストウィンドウ

Context Window

Context window: tokens limit · Higher is better
Reasoning models are indicated by a lightbulb icon

Larger context windows are relevant to RAG (Retrieval Augmented Generation) LLM workflows which typically involve reasoning and information retrieval of large amounts of data.

Maximum number of combined input & output tokens. Output tokens commonly have a significantly lower limit (varied by model).

料金

Intelligence Index vs. Price

Blended at 7:2:1 (cache-input-output) · USD per 1M tokens (blended)
Most attractive quadrant
Pareto line
Reasoning models are indicated by a lightbulb icon

While higher intelligence models are typically more expensive, they do not all follow the same price-quality curve.

性能の概要

Output Speed vs. Price

Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant
Pareto line
Reasoning models are indicated by a lightbulb icon

Tokens per second received while the model is generating tokens (ie. after first chunk has been received from the API for models which support streaming).

Price per token, shown in USD per million tokens. Price is a blend of cache hit, input, and output token prices using the selected ratio (default 7:2:1 cache-input-output).

速度

出力速度（1秒あたりのトークン数）で測定

Output Speed

Output tokens per second · Higher is better
Reasoning models are indicated by a lightbulb icon

Tokens per second received while the model is generating tokens (ie. after first chunk has been received from the API for models which support streaming).

Figures represent performance of the model's first-party API (e.g. OpenAI for o1) or the median across providers where a first-party API is not available (e.g. Meta's Llama models).

遅延

最初のトークンまでの時間（秒）で測定

Latency: Time To First Answer Token

Seconds to first answer token received · Accounts for reasoning model 'thinking' time
Reasoning models are indicated by a lightbulb icon

Time to first answer token received, in seconds, after API request sent. For reasoning models, this includes the 'thinking' time of the model before providing an answer. For models which do not support streaming, this represents time to receive the completion.

エンドツーエンド応答時間

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

End-to-End Response Time vs. Price

End-to-end response time: end-to-end seconds to output 500 tokens · USD per 1M tokens (blended)
Most attractive quadrant
Pareto line
Reasoning models are indicated by a lightbulb icon

Price per token, shown in USD per million tokens. Price is a blend of cache hit, input, and output token prices using the selected ratio (default 7:2:1 cache-input-output).

詳細分析
Kimiのロゴ
Kimi K3 (max)
1.05M
オープン
60
$1.26
109
1.19
24.23
18.43
モデル
プロバイダー
Z AIのロゴ
GLM-5.2 (max) (FAST)
524k
オープン
53
$0.54
196
1.71
14.47
10.20
モデル
プロバイダー
Z AIのロゴ
GLM-5.2 (max)
261k
オープン
53
$0.46
108
1.65
24.78
18.50
モデル
プロバイダー
DeepSeekのロゴ
DeepSeek V4 Flash 0731 (max)
1.05M
オープン
52
$0.14
280
0.75
9.67
7.14
モデル
プロバイダー
DeepSeekのロゴ
DeepSeek V4 Pro (max)
131k
オープン
45
--
--
--
--
--
モデル
プロバイダー
Kimiのロゴ
Kimi K2.6
262k
オープン
45
$0.30
190
1.05
27.15
23.46
モデル
プロバイダー
DeepSeekのロゴ
DeepSeek V4 Pro (high)
131k
オープン
44
$0.68
157
0.61
16.46
12.66
モデル
プロバイダー
Kimiのロゴ
Kimi K2.7 Code
262k
オープン
43
$0.29
--
--
--
--
モデル
プロバイダー
Thinking Machinesのロゴ
Inkling
262k
オープン
42
$0.34
224
0.63
11.78
8.92
モデル
プロバイダー
Thinking Machinesのロゴ
Inkling Small
262k
オープン
41
$0.29
341
0.52
7.85
5.86
モデル
プロバイダー
Kimiのロゴ
Kimi K2.6
262k
オープン
35*
--
--
--
--
--
モデル
プロバイダー
Z AIのロゴ
GLM-5.2 (FAST)
524k
オープン
35
--
179
1.41
4.20
--
モデル
プロバイダー
Z AIのロゴ
GLM-4.7
200k
オープン
34
$0.17
162
0.66
16.09
12.34
モデル
プロバイダー
Z AIのロゴ
GLM-4.7
200k
オープン
27*
--
178
0.69
3.49
--
モデル
プロバイダー
OpenAIのロゴ
gpt-oss-120b (high)
128k
オープン
24
$0.05
183
0.24
13.92
10.94
モデル
プロバイダー
DeepSeekのロゴ
DeepSeek V3.1 (FP8)
164k
オープン
21*
--
185
0.77
3.47
--
モデル
プロバイダー
OpenAIのロゴ
gpt-oss-120b (low)
128k
オープン
15
$0.01
170
0.25
14.99
11.79
モデル
プロバイダー

主要な定義

Maximum number of combined input & output tokens. Output tokens commonly have a significantly lower limit (varied by model).

よくある質問

Basetenに関するよくある質問

Basetenが提供し、当社が追跡しているモデルは14モデルです：Kimi K3 (max)、GLM-5.2 (max) (FAST)、GLM-5.2 (max)、DeepSeek V4 Flash 0731 (max)、Kimi K2.6、DeepSeek V4 Pro (high)、Inkling、Inkling Small、GLM-5.2 (FAST)、GLM-4.7、GLM-4.7、gpt-oss-120b (high)、DeepSeek V3.1 (FP8)、gpt-oss-120b (low)。

Basetenで利用できるモデルのうち、知能が最も高いのはIntelligence Indexスコア60のKimi K3 (max)です。

Basetenで出力速度が最も速いモデルは、毎秒341.1トークンのInkling Smallです。

Basetenで最初の回答トークンまでの時間が最短のモデルは、0.69秒のGLM-4.7です。遅延が短いほど、最初の応答が速くなります。

Basetenでブレンド料金が最も安いモデルは、100万トークンあたり$0.07のDeepSeek V4 Flash 0731 (max)です（キャッシュヒット／入力／出力を7:2:1とした場合）。

Basetenのモデル間では料金に最大32倍の差があり、DeepSeek V4 Flash 0731 (max)の100万トークンあたり$0.07から、Kimi K3 (max)の$2.31までとなっています。

はい。BasetenはOpenAI互換APIを提供しているため、OpenAIからの切り替えや既存のOpenAI SDK連携の利用が容易です。

はい。Basetenの全14モデルが、構造化出力のJSONモードに対応しています。

はい。Basetenの全14モデルが関数呼び出し（ツール利用）に対応しています。

はい。Basetenは11推論モデルを提供しています：Kimi K3 (max)、GLM-5.2 (max) (FAST)、GLM-5.2 (max)、DeepSeek V4 Flash 0731 (max)、Kimi K2.6、DeepSeek V4 Pro (high)、Inkling、Inkling Small、GLM-4.7、gpt-oss-120b (high)、gpt-oss-120b (low)。推論モデルは回答前に拡張思考を行い、複雑な問題に取り組みます。

はい。Basetenの全14モデルがオープンウェイトです。

はい。インフラストラクチャの変更、負荷分散、アップデートにより、プロバイダーの性能は時間とともに変化する場合があります。すべてのプロバイダーを継続的にベンチマークし、「推移」グラフに過去の性能傾向を表示しています。

Basetenのモデルを選ぶ際は、知能（品質を重視するタスク）、出力速度（高スループットが必要なタスク）、遅延（最初の応答の速さが必要な対話型アプリケーション）、料金（費用を重視するワークロード）、コンテキストウィンドウの規模、JSONモード、関数呼び出しへの対応などを検討してください。