Thinking Machines

•

Open weights model

•

Released 2026年7月

Inkling Small APIプロバイダーのベンチマークと分析

モデル比較

この分析は、ユースケースに最適なInkling SmallのAPIプロバイダーを選ぶための参考情報です。

最速

Thinking Machines

204.6 t/s

DeepInfra

142.6 t/s

出力速度

プロバイダー合計：3社

最短の遅延

Thinking Machines

11.94 s

DeepInfra

14.94 s

最初の回答トークンまでの時間

プロバイダー合計：3社

最安料金

Thinking Machines

$0.22

DeepInfra

$0.28

Baseten

$0.29

ブレンド料金（100万トークンあたり）

プロバイダー合計：3社

Inkling Smallは3社のAPIプロバイダーで利用でき、性能特性と料金はそれぞれ異なります。以下でプロバイダー間の主要指標を比較します。

出力速度の上位プロバイダーはThinking Machines（204.6 t/s）、DeepInfra（142.6 t/s）です。
遅延では、Thinking Machines（11.94秒）、DeepInfra（14.94秒）の最初の回答トークンまでの時間が最短です。
料金では、Thinking Machines（0.22）、DeepInfra（0.28）、Baseten（0.29）の100万トークンあたりのブレンド料金が最安です。
Thinking Machinesは速度、遅延、料金の3カテゴリすべてで首位となり、総合トップです。

速度

Output tokens per second · Higher is better

遅延

Seconds to first answer token received · Lower is better

料金

USD per 1M tokens (blended) · Lower is better

更新：本番環境のユースケースをより適切に反映するため、性能ベンチマークのデフォルトワークロードを入力10kトークンに変更しました。上部で別のワークロードを引き続き選択できます。

料金

料金：キャッシュヒット・入力・出力

Price (USD per M Tokens) · Lower is better · 10,000 input tokens

Price per token for cached prompts (previously processed), typically offering a significant discount compared to regular input price, represented as USD per million tokens. The values shown here are the cache hit price; cache write and cache storage are billed separately and vary by provider — see "Cache pricing by provider" for detail.

Intelligence Index タスクあたりのコスト

Weighted average cost (USD) per Artificial Analysis Intelligence Index task, segmented by token type · Lower is better

Weighted average cost per Intelligence Index task. Each evaluation’s cost is calculated from input, cache hit, cache write, reasoning, and answer token prices, divided by task count, and weighted by its Intelligence Index weight.

出力速度と料金

Blended at 7:2:1 (cache-input-output) · Output speed: output tokens per second · USD per 1M tokens (blended)

Most attractive quadrant

Tokens per second received while the model is generating tokens (ie. after first chunk has been received from the API for models which support streaming).

速度

出力速度（1秒あたりのトークン数）で測定

出力速度: Inkling Small

出力速度：毎秒の出力トークン数 · 10,000 input tokens

Tokens per second received while the model is generating tokens (ie. after first chunk has been received from the API for models which support streaming).

Figures represent performance of the model's first-party API or the median across providers where a first-party API is not available.

Intelligence Indexのタスクあたりの時間

Weighted average decode time (minutes) per task; excludes TTFT and overhead time · Lower is better

The weighted average time (seconds) per Artificial Analysis Intelligence Index task. This is calculated by dividing output tokens per task by output speed, weighted by the relative weights of each benchmark in the Intelligence Index.

タスクあたりの費用とタスクあたりの時間

Weighted average cost (USD) per Intelligence Index task · Weighted average decode time (minutes) per Intelligence Index task

Most attractive quadrant

遅延

最初のトークンまでの時間（秒）で測定

最初の回答トークンまでの時間：Inkling Smallのプロバイダー

Seconds to first token received · Lower is better · 10,000 input tokens

Time to first answer token received, in seconds, after API request sent. For reasoning models, this includes the 'thinking' time of the model before providing an answer. For models which do not support streaming, this represents time to receive the completion.

Figures represent median (P50) measurement over the past 72 hours to reflect sustained changes in performance.

キャッシュ動作

キャッシュヒット率

キャッシュ可能な入力トークンのうちキャッシュから提供された割合 · 直近4週間の中央値、2026年9月26日更新

The share of cacheable input tokens served from the provider's prompt cache, measured during multi-turn agentic coding sessions. We regularly measure each endpoint and report a representative rate based on recent measurements. Higher values mean more of the input is billed at the cheaper cache-hit price, where the provider offers one, which lowers the effective cost of agentic workloads. For further details, see our methodology page.

タスクあたりのコストとキャッシュヒット率

Weighted average cost (USD) per Intelligence Index task · Cache hit rate: median of the last four weeks, updated Sep 26, 2026

Most attractive quadrant

エンドツーエンド応答時間

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

エンドツーエンド応答時間：Inkling Smallのプロバイダー

Seconds to output 500 tokens, including reasoning model 'thinking' time · Lower is better · 10,000 input tokens

Seconds to receive a 500 token response. Key components:

Input time: Time to receive the first response token
Thinking time (only for reasoning models): Time reasoning models spend outputting tokens to reason prior to providing an answer. Amount of tokens based on the average reasoning tokens across a diverse set of 60 prompts (methodology details).
Answer time: Time to generate 500 output tokens, based on output speed

主要な比較指標とAPI機能



DeepInfra	524k	オープン	--	238	0.60	11.11	8.41
Baseten	262k	オープン	$0.12	--	--	--	--
Thinking Machines	256k	オープン	$0.09	188	2.09	15.40	10.65

よくある質問

Inkling Smallのプロバイダーに関するよくある質問

Inkling Smallは3社のAPIプロバイダーで利用できます：DeepInfra、Baseten、Thinking Machines。性能特性と料金はプロバイダーごとに異なります。

現在、ベンチマークと追跡の対象となる3社のAPIプロバイダーでInkling Smallを利用できます。

出力速度でInkling Smallが最速のプロバイダーはThinking Machines（204.6 t/s）、DeepInfra（142.6 t/s）です。出力速度は、モデルが応答を開始した後にトークンを生成する速さを表します。

Inkling Smallの最初の回答トークンまでの時間が最短のプロバイダーはThinking Machines（11.94s）、DeepInfra（14.94s）です。遅延が短いほど、最初の応答が速くなります。

ブレンド料金でInkling Smallが最安のプロバイダーはThinking Machines（100万トークンあたり$0.22）、DeepInfra（100万トークンあたり$0.28）、Baseten（100万トークンあたり$0.29）です。ブレンド料金では、キャッシュヒット／入力／出力トークンを7:2:1とします。

Inkling Smallの入力トークン料金が最安のプロバイダーはThinking Machines（入力100万トークンあたり$0.30）、DeepInfra（入力100万トークンあたり$0.45）、Baseten（入力100万トークンあたり$0.50）です。

Inkling Smallの出力トークン料金が最安のプロバイダーはDeepInfra（出力100万トークンあたり$1.20）、Baseten（出力100万トークンあたり$1.20）、Thinking Machines（出力100万トークンあたり$1.20）です。

Inkling Smallの料金はプロバイダー間で最大1.3倍異なります。最安はThinking Machinesの100万トークンあたり$0.22で、Basetenは100万トークンあたり$0.29です。

Inkling Smallを提供する3社すべてが、構造化出力のJSONモードに対応しています。

Inkling Smallを提供する3社すべてが、関数呼び出し（ツール利用）に対応しています。

Thinking MachinesはInkling Smallの主要指標すべてで首位となり、出力速度が最も速く、遅延が最も短く、料金の競争力も最も優れています。

Inkling Smallのプロバイダーを選ぶ際は、出力速度（高スループットが必要なタスク）、遅延（最初の応答の速さが必要な対話型アプリケーション）、料金（費用を重視するワークロード）、JSONモードや関数呼び出しなどのAPI機能を検討してください。

はい。インフラストラクチャの変更、負荷分散、アップデートにより、プロバイダーの性能は時間とともに変化する場合があります。すべてのプロバイダーを継続的にベンチマークし、「推移」グラフに過去の性能傾向を表示しています。

Inkling Smallの知能、能力、モダリティ、他のモデルとの比較については、モデル概要ページをご覧ください。モデル概要を表示

Inkling Small APIプロバイダーのベンチマークと分析

最速

最短の遅延

最安料金

速度

遅延

料金

料金

料金：キャッシュヒット・入力・出力

Cache Hit

Intelligence Index タスクあたりのコスト

Cost per Intelligence Index Task

出力速度と料金

Output Speed

速度

出力速度: Inkling Small

Output Speed

Model Performance Representation

Intelligence Indexのタスクあたりの時間

Time per Intelligence Index Task

タスクあたりの費用とタスクあたりの時間

Cost per Intelligence Index Task

遅延

最初の回答トークンまでの時間：Inkling Smallのプロバイダー

Time to First Answer Token

Median

キャッシュ動作

キャッシュヒット率

What Cache Hit Rate Shows

タスクあたりのコストとキャッシュヒット率

Cost per Intelligence Index Task

エンドツーエンド応答時間

エンドツーエンド応答時間：Inkling Smallのプロバイダー

End-to-End Response Time

主要な比較指標とAPI機能

よくある質問

Inkling Smallはどこで利用できますか？

Inkling Smallを提供するAPIプロバイダーは何社ですか？

Inkling Smallで最速のプロバイダーはどこですか？

Inkling Smallで遅延が最も短いプロバイダーはどこですか？

Inkling Smallで最も安いプロバイダーはどこですか？

Inkling Smallで入力料金が最も安いプロバイダーはどこですか？

Inkling Smallで出力料金が最も安いプロバイダーはどこですか？

Inkling Smallのプロバイダー間で料金はどの程度異なりますか？

Inkling SmallでJSONモードに対応するプロバイダーはどこですか？

Inkling Smallで関数呼び出しに対応するプロバイダーはどこですか？

Inkling Smallに最適なプロバイダーはどこですか？

Inkling Smallのプロバイダーはどう選べばよいですか？

Inkling Smallのプロバイダー性能は時間とともに変化しますか？

Inkling Smallの総合的な能力はどの程度ですか？