Baseten：モデルの知能、性能、料金

Baseten
Baseten

Basetenのモデルを、品質、料金、出力速度、遅延、コンテキストウィンドウなどの主要指標で分析します。 この分析は、ユースケースに最適なBaseten提供モデルを選ぶための参考情報です。

最高の知能

#1
GLM-5.2 (max)
GLM-5.2 (max)
51
#2
DeepSeek V4 Pro (high)
DeepSeek V4 Pro (high)
43
#3
GLM-4.7
GLM-4.7
34
#4
GLM-4.7
GLM-4.7
27
#5
gpt-oss-120b (high)
gpt-oss-120b (high)
24

Intelligence Index

モデル合計：7件

最速

#1
GLM-4.7
GLM-4.7
190 t/s
#2
GLM-4.7
GLM-4.7
180 t/s
#3
gpt-oss-120b (high)
gpt-oss-120b (high)
179 t/s
#4
DeepSeek V3.1 (FP8)
DeepSeek V3.1 (FP8)
175 t/s
#5
gpt-oss-120b (low)
gpt-oss-120b (low)
171 t/s

出力速度

モデル合計：7件

最安料金

#1
gpt-oss-120b (high)
gpt-oss-120b (high)
$0.14
#2
gpt-oss-120b (low)
gpt-oss-120b (low)
$0.14
#3
GLM-4.7
GLM-4.7
$0.42
#4
GLM-4.7
GLM-4.7
$0.42
#5
DeepSeek V3.1 (FP8)
DeepSeek V3.1 (FP8)
$0.42

ブレンド料金（100万トークンあたり）

モデル合計：7件

推論モデルを示します

Basetenは7モデルを提供しており、知能、性能、料金の特性はそれぞれ異なります。 以下でモデル間の主要指標を比較します。

  • Basetenで知能が上位のモデルはGLM-5.2 (max)（51）、DeepSeek V4 Pro (high)（43）、GLM-4.7（34）です。
  • 出力速度が最も速いモデルはGLM-4.7（190 t/s）、GLM-4.7（180 t/s）、gpt-oss-120b (high)（179 t/s）です。
  • 遅延では、GLM-4.7（0.71秒）、DeepSeek V3.1 (FP8)（0.74秒）、GLM-4.7（11.23秒）の最初の回答トークンまでの時間が最短です。
  • 料金では、gpt-oss-120b (high)（$0.14）、gpt-oss-120b (low)（$0.14）、GLM-4.7（$0.42）の100万トークンあたりのブレンド料金が最安です。 モデル間で料金に最大3.0倍の差があります。
  • Basetenで最大のコンテキストウィンドウに対応するモデルはGLM-5.2 (max)（261k）、GLM-4.7（200k）、GLM-4.7（200k）です。

ハイライト

知能

Artificial Analysis Intelligence Index · Higher is better

速度

Output tokens per second · Higher is better

料金

USD per 1M tokens (blended) · Lower is better

知能評価

Artificial Analysis Intelligence Index

Artificial Analysis Intelligence Index v4.1 incorporates 9 evaluations: GDPval-AA v2, 𝜏³-Banking, Terminal-Bench v2.1, SciCode, Humanity's Last Exam, GPQA Diamond, CritPt, AA-Omniscience, AA-LCR
Estimate (independent evaluation forthcoming)
Reasoning models are indicated by a lightbulb icon

Artificial Analysis Intelligence Index v4.1 includes: GDPval-AA v2, 𝜏³-Banking, Terminal-Bench v2.1, SciCode, Humanity's Last Exam, GPQA Diamond, CritPt, AA-Omniscience, AA-LCR. See Intelligence Index methodology for further details, including a breakdown of each evaluation and how we run them.

Intelligence Evaluations

Intelligence evaluations measured independently by Artificial Analysis · Higher is better
GDPval-AA v2

Agentic real-world work tasks, (Elo-500)/2000

𝜏³-Banking

Agentic tool use

Terminal-Bench v2.1

Agentic coding & terminal use

SciCode

Coding

Humanity's Last Exam

Reasoning & knowledge

GPQA Diamond

Scientific reasoning

CritPt

Physics reasoning

AA-Omniscience Accuracy

Knowledge

AA-Omniscience Non-Hallucination Rate

1 - hallucination rate

AA-LCR

Long context reasoning

AA-Briefcase

Agentic knowledge work, Elo

AutomationBench-AA

Agentic SaaS workflows

Harvey LAB-AA

Legal agentic work, criterion pass rate

EnterpriseOps-Gym-AANew

Agentic business operations

IFBench

Instruction following

APEX-Agents-AA

Long-horizon agentic tasks

ITBench-AA

Kubernetes incident root-cause analysis

MMMU-Pro

Visual reasoning

No data available
Reasoning models are indicated by a lightbulb icon

While model intelligence generally translates across use cases, specific evaluations may be more relevant for certain use cases.

Artificial Analysis Intelligence Index v4.1 includes: GDPval-AA v2, 𝜏³-Banking, Terminal-Bench v2.1, SciCode, Humanity's Last Exam, GPQA Diamond, CritPt, AA-Omniscience, AA-LCR. See Intelligence Index methodology for further details, including a breakdown of each evaluation and how we run them.

Intelligence Index vs. Price

Blended at 7:2:1 (cache-input-output) · USD per 1M tokens (blended)
Most attractive quadrant
Pareto line
Reasoning models are indicated by a lightbulb icon

While higher intelligence models are typically more expensive, they do not all follow the same price-quality curve.

コンテキストウィンドウ

Context Window

Context window: tokens limit · Higher is better
Reasoning models are indicated by a lightbulb icon

Larger context windows are relevant to RAG (Retrieval Augmented Generation) LLM workflows which typically involve reasoning and information retrieval of large amounts of data.

Maximum number of combined input & output tokens. Output tokens commonly have a significantly lower limit (varied by model).

料金

Intelligence Index vs. Price

Blended at 7:2:1 (cache-input-output) · USD per 1M tokens (blended)
Most attractive quadrant
Pareto line
Reasoning models are indicated by a lightbulb icon

While higher intelligence models are typically more expensive, they do not all follow the same price-quality curve.

性能の概要

Output Speed vs. Price

Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant
Pareto line
Reasoning models are indicated by a lightbulb icon

Tokens per second received while the model is generating tokens (ie. after first chunk has been received from the API for models which support streaming).

Price per token, shown in USD per million tokens. Price is a blend of cache hit, input, and output token prices using the selected ratio (default 7:2:1 cache-input-output).

速度

出力速度（1秒あたりのトークン数）で測定

Output Speed

Output tokens per second · Higher is better
Reasoning models are indicated by a lightbulb icon

Tokens per second received while the model is generating tokens (ie. after first chunk has been received from the API for models which support streaming).

Figures represent performance of the model's first-party API (e.g. OpenAI for o1) or the median across providers where a first-party API is not available (e.g. Meta's Llama models).

遅延

最初のトークンまでの時間（秒）で測定

Latency: Time To First Answer Token

Seconds to first answer token received · Accounts for reasoning model 'thinking' time
Reasoning models are indicated by a lightbulb icon

Time to first answer token received, in seconds, after API request sent. For reasoning models, this includes the 'thinking' time of the model before providing an answer. For models which do not support streaming, this represents time to receive the completion.

エンドツーエンド応答時間

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

End-to-End Response Time vs. Price

End-to-end response time: end-to-end seconds to output 500 tokens · USD per 1M tokens (blended)
Most attractive quadrant
Pareto line
Reasoning models are indicated by a lightbulb icon

Price per token, shown in USD per million tokens. Price is a blend of cache hit, input, and output token prices using the selected ratio (default 7:2:1 cache-input-output).

詳細分析
Z AIのロゴ
GLM-5.2 (max)
261k
オープン
51
$0.45
113
1.96
24.03
17.65
モデル
プロバイダー
DeepSeekのロゴ
DeepSeek V4 Pro (high)
131k
オープン
43
$0.68
146
0.55
17.56
13.60
モデル
プロバイダー
Z AIのロゴ
GLM-4.7
200k
オープン
34
$0.17
190
0.70
13.86
10.53
モデル
プロバイダー
Z AIのロゴ
GLM-4.7
200k
オープン
27*
--
180
0.71
3.48
--
モデル
プロバイダー
OpenAIのロゴ
gpt-oss-120b (high)
128k
オープン
24
$0.05
179
0.26
14.21
11.16
モデル
プロバイダー
DeepSeekのロゴ
DeepSeek V3.1 (FP8)
164k
オープン
21*
--
175
0.74
3.61
--
モデル
プロバイダー
OpenAIのロゴ
gpt-oss-120b (low)
128k
オープン
15
$0.01
171
0.26
14.91
11.72
モデル
プロバイダー

主要な定義

Maximum number of combined input & output tokens. Output tokens commonly have a significantly lower limit (varied by model).

よくある質問

Basetenに関するよくある質問

Basetenが提供し、当社が追跡しているモデルは7モデルです：GLM-5.2 (max)、DeepSeek V4 Pro (high)、GLM-4.7、GLM-4.7、gpt-oss-120b (high)、DeepSeek V3.1 (FP8)、gpt-oss-120b (low)。

Basetenで利用できるモデルのうち、知能が最も高いのはIntelligence Indexスコア51のGLM-5.2 (max)です。

Basetenで出力速度が最も速いモデルは、毎秒190.0トークンのGLM-4.7です。

Basetenで最初の回答トークンまでの時間が最短のモデルは、0.71秒のGLM-4.7です。遅延が短いほど、最初の応答が速くなります。

Basetenでブレンド料金が最も安いモデルは、100万トークンあたり$0.14のgpt-oss-120b (high)です（キャッシュヒット／入力／出力を7:2:1とした場合）。

Basetenのモデル間では料金に最大6倍の差があり、gpt-oss-120b (high)の100万トークンあたり$0.14から、GLM-5.2 (max)の$0.82までとなっています。

はい。BasetenはOpenAI互換APIを提供しているため、OpenAIからの切り替えや既存のOpenAI SDK連携の利用が容易です。

はい。Basetenの全7モデルが、構造化出力のJSONモードに対応しています。

はい。Basetenの全7モデルが関数呼び出し（ツール利用）に対応しています。

はい。Basetenは5推論モデルを提供しています：GLM-5.2 (max)、DeepSeek V4 Pro (high)、GLM-4.7、gpt-oss-120b (high)、gpt-oss-120b (low)。推論モデルは回答前に拡張思考を行い、複雑な問題に取り組みます。

はい。Basetenの全7モデルがオープンウェイトです。

はい。インフラストラクチャの変更、負荷分散、アップデートにより、プロバイダーの性能は時間とともに変化する場合があります。すべてのプロバイダーを継続的にベンチマークし、「推移」グラフに過去の性能傾向を表示しています。

Basetenのモデルを選ぶ際は、知能（品質を重視するタスク）、出力速度（高スループットが必要なタスク）、遅延（最初の応答の速さが必要な対話型アプリケーション）、料金（費用を重視するワークロード）、コンテキストウィンドウの規模、JSONモード、関数呼び出しへの対応などを検討してください。