输出降价 75% 却要跑 20 分钟:Mira Murati 的新模型算盘打给谁看
输出降价 75%,一个任务却要跑 20 分钟:便宜的单价,贵的总账。
Mira Murati 离开 OpenAI 后创办的 Thinking Machines Lab,在 2026 年 11 月 5 日拿出了第二代模型 Inkling 2 Small。
账面报价便宜得吓人:每百万 token 输出只要 1.00 美元,比起今年 7 月的第一代直接砍掉 75%,输入也降了 70%。在第三方机构 Artificial Analysis 的综合榜单上,它拿下了 31 分的高分,直接追平谷歌的 Gemini 3.8 Flash(high)。
但我劝你别急着把生产环境的请求全切过去。这个模型有一个极度反常的特征:Artificial Analysis 实测它解决一个基准任务平均要耗费 20.8 分钟,一口气吐出 15 万个 token,输出体量是 Claude Sonnet 5.5(medium)的五倍。
单价跌到地板,用量却翻了数倍,你的账单最终到底变薄还是变厚?更微妙的是,号称要走开源路线的团队,发布当天只在自家收费云平台上开放了调用入口。我们要算清楚这笔时间与金钱的真实细账。
![]()
这模型到底是什么:594B 架构与 68 小时训练
外界以为这是一家初创公司按部就班迭代的“小模型”,但点开参数表会发现,Inkling 2 Small 里的“Small”更像一种讽刺。
它的总参数量从上一代的 276B 翻倍飙升到了 594B,采用稀疏 MoE(混合专家)架构,每个 token 激活 17B 参数,比上一代的 12B 激活略有提升。它具备多模态能力,支持图片输入,同时支持用户自行调节推理力度。
最让工程圈议论的是训练用时。据 Soumith Chintala 与 latent.space 报道,Inkling 2 Small 的主预训练阶段吞下了 8.4T tokens,借助原生 NVFP4 低精度格式,在 GB300 集群上只用了 68 个小时就跑完了。
![]()
68 小时训完 8.4T 数据,这种极端的训练速度解释了为什么由 Mira Murati 掌舵、John Schulman 担任首席科学家的这家团队,能在 2025 年 2 月于旧金山成立后,仅隔一年多就连续端出两代大规模 MoE 模型。但这也埋下了一个问号:如此压缩的训练周期和低精度量化,真能保证模型在复杂逻辑下的扎实程度吗?
![]()
跑分怎么看:代码很强,终端很惨
在 Artificial Analysis Intelligence Index v5.0.1 榜单上,Inkling 2 Small 的官方表格记录精确值为 30.6 分(取整为 31 分)。这个成绩排在同分段第 4 名(共 29 个模型参评),高出该分段 23 分的中位数,胜过了小米的 MiMo-V2.6-Pro,并与谷歌的 Gemini 3.8 Flash(high)打成平手。上一代 Inkling Small 只有 12 分,单看这个总分,代际跃升幅度确实很大。
官方随后公布了一份自选基准表。必须说明,虽然里面的测试项包含第三方评测机构数据,但这张表格完全由厂商挑选并对外呈现,没有经过外部全量复核。顺着这份数据看,你会发现极其强烈的偏科:
在纯编程逻辑方面,它的表现很抢眼。SWE-Bench Pro v2(Hard)测验拿到 86.3%,在榜单里紧咬 Kimi K3 的 88.2%;PMPP-Hard GPU 内核优化测试中,69 道题目它平均解出 54.25 题,虽然落后于 GPT-6 Astra 的 63 题和 Claude Opus 5.5 的 60 题,但在非闭源巨无霸阵营里已经算高水准;DesignArena 排名开放权重组第一;面向商业推理的 AA-Briefcase Elo 达到 1527 分,超过了 Claude Sonnet 5.5(medium)的 1439 分与 Gemini 3.8 Flash(high)的 1203 分;AutomationBench-AA 从上一代的 5% 暴涨到 46%;Vals Index 较上一代拔高 28.5 分,位列开放权重组第 7。
但是在另外几个硬碰硬的自动化任务上,数据暴露了软肋。
DeepSWE v1.1 评测中,它跑出 72.1%,落后于 DeepSeek-V4.1-Flash 的 77.0%;FrontierCode 2.0 得分仅为 25.4%。
最致命的翻车点落在 Terminal-Bench 4.0 上:它仅仅跑出了 13.1% 的成功率。
对比一下对手:DeepSeek-V4.1-Flash 在这个测试项上的成绩是 33.8%,GLM-5.3-Flash 跑出了 32.8%。终端环境考验的是模型对 Linux 命令、路径、权限、管道交互以及容错反馈的实际控制力。13.1% 的分数意味着,如果你打算把 Inkling 2 Small 当成能够直接在服务器底层自动写脚本、查日志、改环境的自主智能体,它有接近九成的概率会把事情办砸。代码逻辑写得漂亮,一进实际终端就手足无措,这就是厂商宣传物料背后没有写在显眼处的事实。
速度慢与话多:算一笔真实的账单
大家看到单价下降,本能地以为调用成本降低了。
根据 Thinking Machines Lab 官方平台 Tinker 的定价表:
- 输入:0.30 美元 / 百万 tokens
- 缓存输入:0.03 美元 / 百万 tokens
- 输出:1.00 美元 / 百万 tokens
- 微调训练:1.50 美元 / 百万 tokens(微调上下文限制在 64K)
- 推理上下文支持:256K(目前处于 beta 状态)
FourWeekMBA 按照 Artificial Analysis 的标价折算指出,Inkling 2 Small 的输出价格比上一代降低了 75%,输入价格降低了 70%。
单看定价标签,确实便宜。可跑长任务的开发者真正掏钱时,买的是任务的整体结果,不是单纯的单价标签。Artificial Analysis 在实测后给出了非常直白的评语:“速度慢、话多”。
在 AA 的 Index 评估流程里,Inkling 2 Small 完成单个任务平均耗时 20.8 分钟,单任务生成的输出 token 数量大约在 15 万个。这是什么概念?它的输出 token 量达到了上一代 Inkling Small 的 4 倍左右,更是 Claude Sonnet 5.5(medium)的 5 倍左右。
这带来了算力账单的变形:
虽然单价砍了四分之三,但因为输出长度翻了两番,Inkling 2 Small 跑完单个 Index 任务的总支出是 1.18 美元。而上一代虽然单价贵,但话少,单任务成本只要 0.20 美元。也就是说,你跑同一个复杂任务,现在的实际花费反而是旧版的近 6 倍。
当然,如果横向拉来商业闭源旗舰对比,它依然能省钱。同样完成一个任务,Gemini 3.8 Flash(high)需要 7.77 美元,Claude Sonnet 5.5(medium)需要 10.02 美元。Inkling 2 Small 的 1.18 美元比它们便宜了七八倍。
我们把这组反差鲜明的数据排在一起:
| 模型名称 | AA 智能指数 v5.0.1 | 输入价(美元/M token) | 输出价(美元/M token) | 单任务平均成本(美元) | Terminal-Bench 4.0 表现 |
|---|---|---|---|---|---|
| Inkling 2 Small | 31(表格精确值 30.6) | 0.30 | 1.00 | 1.18 | 13.1% |
| Inkling Small(上一代) | 12 | 1.00 | 4.05 | 0.20 | 未公布 |
| DeepSeek-V4.1-Flash | 50 | 0.30 | 1.20(峰值) | 未公布 | 33.8% |
| Claude Sonnet 5.5(medium) | 未公布同口径总分 | 2.00 | 10.00 | 10.02 | 30% |
看懂这张表,你就明白该怎么给自己的产品选型了:如果你做的是代码重构、测试用例编写或长文本逻辑推演,不在乎等这 20 分钟,那 1.18 美元相比 Sonnet 5.5 的 10 美元确实能省下大笔开销;但如果你做的是前端交互、即时对话或者命令行自动化,这种漫长的“思考话痨”不仅会让终端用户等到崩溃,低成功率还会把你的调试预算彻底吃空。
怎么用上它:Tinker 平台调用实操与限制
如果你想亲自测一测它的推理力度,或者看看那 15 万 token 的输出到底在碎碎念些什么,目前没有第三方 API 可选。
发布当天,Thinking Machines Lab 只在自家的 Tinker 平台(包括网页端的 Tinker Playground)开放了该模型的推理与微调权限。Tinker 提供 API 调用入口,下面是一份按 OpenAI 兼容客户端写法给出的示例,地址与模型名以官方文档为准。
以下是调用 Inkling 2 Small 的示例代码:
import os
from openai import OpenAI
# 初始化客户端
# base_url 指向 Thinking Machines 官方 Tinker 接口占位地址(具体以官方文档最新指引为准)
client = OpenAI(
api_key=os.environ.get("TINKER_API_KEY"),
base_url="https://api.tinker.thinkingmachines.ai/v1",
)
# 发起推理请求
response = client.chat.completions.create(
model="inkling-2-small",
messages=[
{
"role": "user",
"content": "请分析这个 Python 函数的边界异常,并给出优化方案。",
}
],
)
print(response.choices[0].message.content)调用时有两点限制必须记在账本上:
第一,当前推理模式下支持的最大上下文为 256K,官方明确标注该模式仍处于 beta 阶段;
第二,如果你想拿业务数据在 Tinker 上做微调训练,单价是每百万 token 1.50 美元,但微调上下文被死死卡在 64K 以内。如果你的训练集包含大量超长代码库文件,必须提前切片。
权重“下周到货”意味着什么
很多自建私有化算力的团队在发布会后扑了个空:开源协议写得清清楚楚,GitHub 上却连一个权重分块都没传。
官方给出的解释是:需要等外部安全测试与红队测试收尾,承诺在“下周”按照 Apache 2.0 协议完整开放全部权重。请搞清楚,这只是管理层口头给出的时间表承诺,并不是经过明确排期的确定上线日。
如果这个承诺能兑现,根据 Artificial Analysis 的评价,Inkling 2 Small 将会成为 AA 榜单上除了美国本土和中国团队之外、得分最高的开放权重模型。这对于不想绑定商业闭源接口、又因合规要求不能使用特定产地模型的海外团队来说,多了一个技术支点。
但接住这份权重也是个力气活。
它虽然名字叫“Small”,底层却是不折不扣的 594B 总量 MoE。即使每次计算只激活 17B,但在自建机房里把近 600B 的模型权重塞进显存,依然需要重度硬件配置。普通单卡开发机甚至双卡工作站根本跑不起来。想要吃到本地部署的红利,你得准备好能承接大体量 MoE 架构的高显存服务器。
对开发者而言,眼下最合理的动作不是忙着推翻现有的 API 架构,而是先在 Tinker Playground 里用几道你手头最繁重的代码重构题压测它一次,亲眼看一看那 20 分钟的耗时与 1.18 美元的单任务账单,在你的业务周期里究竟算不算合算。
来源
- https://www.marktechpost.com/2026/11/05/thinking-machines-inkling-2-small-release/
- https://fourweekmba.com/ai-muratis-inkling-2-small-scores-31-output-price-down-75/
- https://dev.to/paullovelace/inkling-2-small-is-here-the-weights-arent-what-to-do-now-3292
- https://latent.space/p/ainews-inkling-2-small-17a-594b-trained-in-68-hours-on-12t-tokens-beating-muse-spark/
- https://en.wikipedia.org/wiki/Thinking_Machines_Lab