Thinking Machines：模型智能、性能与价格

Thinking Machines

本分析旨在帮助你根据使用场景，选择 Thinking Machines 提供的最佳模型。

最智能

Updated

Inkling Small

Inkling (xhigh)

Intelligence Index

共 2 个模型

速度最快

Inkling Small

191 t/s

Inkling (xhigh)

172 t/s

输出速度

共 2 个模型

价格最低

Inkling Small

$0.22

Inkling (xhigh)

$0.72

每 100 万 token 的混合价格

共 2 个模型

Thinking Machines 提供 2 个模型，每个模型的智能、性能和价格特征各不相同。下方对比了各模型的关键指标。

智能方面，Thinking Machines 上表现最好的模型是 Inkling Small（26）和Inkling (xhigh)（25）。
输出速度方面，最快的模型是 Inkling Small（191 t/s）和Inkling (xhigh)（172 t/s）。
延迟方面，Inkling Small（12.61 秒）和Inkling (xhigh)（13.54 秒）的首个答案 Token 延迟最低。
价格方面，Inkling Small（$0.22）和Inkling (xhigh)（$0.72）每 100 万 token 的混合价格最低。
上下文窗口方面，Inkling (xhigh)（262k）和Inkling Small（256k）支持 Thinking Machines 上最大的上下文窗口。
Inkling Small 是 Thinking Machines 上综合表现最突出的模型，在智能、速度和价格三项指标中均排名第一。

Updated

智能

Artificial Analysis Intelligence Index · Higher is better

速度

Output tokens per second · Higher is better

价格

USD per 1M tokens (blended) · Lower is better

智能评测

Artificial Analysis Intelligence Index

Artificial Analysis Intelligence Index v4.3.2 incorporates 10 evaluations: AA-Briefcase v1.1, GDPval-AA v2.1, AutomationBench-AA, Terminal-Bench 4.0, SciCode, Humanity's Last Exam, GDP.pdf, CritPt, AA-Omniscience, AA-LCR v1.1

Artificial Analysis Intelligence Index v4.3.2 includes: AA-Briefcase v1.1, GDPval-AA v2.1, AutomationBench-AA, Terminal-Bench 4.0, SciCode, Humanity's Last Exam, GDP.pdf, CritPt, AA-Omniscience, AA-LCR v1.1. See Intelligence Index methodology for further details, including a breakdown of each evaluation and how we run them.

Intelligence Evaluations

Intelligence evaluations measured independently by Artificial Analysis · Higher is better

AA-Briefcase v1.1Updated

Agentic knowledge work, (Elo-500)/2000

GDPval-AA v2.1Updated

Agentic real-world work tasks, (Elo-500)/2000

AutomationBench-AA

Agentic SaaS workflows

Terminal-Bench 4.0

Agentic coding & terminal use

SciCodeUnder review

Coding

Humanity's Last Exam

Reasoning & knowledge

GDP.pdf

Professional document reasoning, All-pass

CritPtUnder review

Physics reasoning

AA-Omniscience Accuracy

Knowledge

AA-Omniscience Non-Hallucination Rate

1 - hallucination rate

AA-LCR v1.1

Long context reasoning

Harvey LAB-AA

Legal agentic work, criterion pass rate

No data available

EnterpriseOps-Gym-AA

Agentic business operations

Terminal-Bench-Science 0.1New

Agentic scientific research workflows in a terminal

AA-AnalystAgent

Quantitative analysis on spreadsheets & documents

ITBench-AA

Kubernetes incident root-cause analysis

No data available

MMMU-Pro

Visual reasoning

MLCR-AA

Medical long context reasoning

While model intelligence generally translates across use cases, specific evaluations may be more relevant for certain use cases.

Intelligence Index 与价格

Blended at 7:2:1 (cache-input-output) · USD per 1M tokens (blended)

Most attractive quadrant

While higher intelligence models are typically more expensive, they do not all follow the same price-quality curve.

上下文窗口

Context window: tokens limit · Higher is better

Larger context windows are relevant to RAG (Retrieval Augmented Generation) LLM workflows which typically involve reasoning and information retrieval of large amounts of data.

Maximum number of combined input & output tokens. Output tokens commonly have a significantly lower limit (varied by model).

价格

Intelligence Index 与价格

Blended at 7:2:1 (cache-input-output) · USD per 1M tokens (blended)

Most attractive quadrant

While higher intelligence models are typically more expensive, they do not all follow the same price-quality curve.

性能摘要

输出速度与价格

Output speed: output tokens per second · USD per 1M tokens (blended)

Most attractive quadrant

Tokens per second received while the model is generating tokens (ie. after first chunk has been received from the API for models which support streaming).

Price per token, shown in USD per million tokens. Price is a blend of cache hit, input, and output token prices using the selected ratio (default 7:2:1 cache-input-output).

速度

按输出速度（每秒 token 数）衡量

输出速度

Output tokens per second · Higher is better

Tokens per second received while the model is generating tokens (ie. after first chunk has been received from the API for models which support streaming).

Figures represent performance of the model's first-party API or the median across providers where a first-party API is not available.

延迟

按首 Token 延迟（秒）衡量

延迟: 首个答案 Token 延迟

收到首个回答 token 的秒数 · 包含推理模型的“思考”时间

Time to first answer token received, in seconds, after API request sent. For reasoning models, this includes the 'thinking' time of the model before providing an answer. For models which do not support streaming, this represents time to receive the completion.

端到端响应时间

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

端到端响应时间与价格

End-to-end response time: end-to-end seconds to output 500 tokens · USD per 1M tokens (blended)

Most attractive quadrant

Price per token, shown in USD per million tokens. Price is a blend of cache hit, input, and output token prices using the selected ratio (default 7:2:1 cache-input-output).


									进一步分析
Inkling Small	256k	开放	26	$0.09	192	2.12	15.15	10.42	模型服务商
Inkling (xhigh)	262k	开放	25	--	180	1.89	15.79	11.12	模型服务商

关键定义

Maximum number of combined input & output tokens. Output tokens commonly have a significantly lower limit (varied by model).

常见问题

关于 Thinking Machines 的常见问题

Thinking Machines 提供我们跟踪的 2 个模型：Inkling Small和Inkling (xhigh)。

Thinking Machines 上最智能的模型是 Inkling Small，Intelligence Index 得分为 26。

按输出速度计算，Thinking Machines 上最快的模型是 Inkling Small，速度为每秒 190.8 个 token。

Thinking Machines 上首个答案 Token 延迟最低的模型是 Inkling Small，延迟为 12.61 秒。延迟越低，初始响应越快。

按混合价格计算，Thinking Machines 上最实惠的模型是 Inkling Small，每 100 万 token 的价格为 $0.22（缓存命中/输入/输出比例为 7:2:1）。

Thinking Machines 上各模型价格最多相差 3 倍，从最实惠的 Inkling Small（每 100 万 token $0.22）到最昂贵的 Inkling (xhigh)（每 100 万 token $0.72）。

是，Thinking Machines 提供兼容 OpenAI 的 API，可以轻松从 OpenAI 切换，或继续使用现有的 OpenAI SDK 集成。

是，Thinking Machines 上全部 2 个模型均支持用于结构化输出的 JSON 模式。

是，Thinking Machines 上全部 2 个模型均支持函数调用（工具使用）。

是，Thinking Machines 提供 2 个推理模型：Inkling Small和Inkling (xhigh)。推理模型会先进行扩展思考来解决复杂问题，再给出答案。

是，Thinking Machines 上全部 2 个模型均为开放权重模型。

会。服务商性能可能因基础设施变化、负载均衡和更新而随时间波动。我们持续对所有服务商进行基准测试，并在“随时间变化”图表中展示历史性能趋势。

选择 Thinking Machines 上的模型时，请考虑：智能（适合质量敏感型任务）、输出速度（适合吞吐量密集型任务）、延迟（适合需要快速首次响应的交互式应用）、价格（适合成本敏感型工作负载），以及上下文窗口大小、JSON 模式或函数调用支持等功能。

Thinking Machines：模型智能、性能与价格

最智能

速度最快

价格最低

智能

速度

价格

智能评测

Artificial Analysis Intelligence Index

Artificial Analysis Intelligence Index

Intelligence Evaluations

Intelligence Evaluation Relevance

Artificial Analysis Intelligence Index

Intelligence Index 与价格

Price-Quality Variance

上下文窗口

上下文窗口

Context Window for RAG

Context Window

价格

Intelligence Index 与价格

Price-Quality Variance

性能摘要

输出速度与价格

Output Speed

Price

速度

输出速度

Output Speed

Model Performance Representation

延迟

延迟: 首个答案 Token 延迟

Time to First Answer Token

端到端响应时间

端到端响应时间与价格

Price

关键定义

Context Window

常见问题

Thinking Machines 提供哪些模型？

Thinking Machines 上最智能的模型是什么？

Thinking Machines 上速度最快的模型是什么？

Thinking Machines 上哪个模型的延迟最低？

Thinking Machines 上最便宜的模型是什么？

Thinking Machines 上各模型之间的价格差异有多大？

Thinking Machines 是否兼容 OpenAI？

Thinking Machines 是否支持 JSON 模式？

Thinking Machines 是否支持函数调用？

Thinking Machines 是否提供推理模型？

Thinking Machines 是否提供开放权重模型？

Thinking Machines 的性能会随时间变化吗？

如何选择 Thinking Machines 上的模型？