2026年7月中旬,AI 圈迎来了一个重磅消息。前 OpenAI 首席技术官 Mira Murati 创立的 Thinking Machines Lab,正式推出了旗下首款自研基础模型——Inkling。这款模型以 Apache 2.0 协议完全开放权重,支持文本、图像、音频的原生多模态推理,上下文窗口高达百万级别,一时间成为开源社区关注的焦点。
为什么 Inkling 不走"最强模型"路线?
与大多数厂商拼命追求排行榜名次不同,Thinking Machines Lab 在发布博客中直言不讳:Inkling 并非当前市面上最强大的模型,无论开源还是闭源。这种坦诚反而揭示了其独特的产品哲学。
Mira Murati 本人将 Inkling 定位为"可定制的基础模型",核心理念是让企业能够根据自身业务场景进行深度微调,而非依赖一个"一刀切"的通用系统。她在发布帖文中简洁概括道:"我们的第一个模型,从零开始训练,权重开放,现在即可在 Tinker 上进行微调。"
这种思路背后有深刻的商业考量。在闭源模型生态中,企业往往面临双重成本:订阅费用本身,以及将专有知识输入到第三方系统时可能带来的数据泄露风险。Inkling 通过开放权重,让企业能够私有化部署、自主训练,从根本上掌握 AI 基础设施的控制权。
核心技术规格:975B 参数背后的工程巧思
Inkling 的架构设计在同类产品中颇具特色。它采用66 层解码器专用 Transformer,基于稀疏混合专家(MoE)架构,总参数量达到 9750 亿,但每个词元仅激活约 410 亿参数。这种"存储大、计算小"的设计,使得模型在保持知识容量的同时,推理成本控制在合理范围。
路由机制方面,每个词元被分配给256 个路由专家中的 6 个,外加2 个始终激活的共享专家。这种稀疏激活策略是 MoE 架构的核心优势,也是 Inkling 能够在消费级硬件上实现本地部署的关键。
值得注意的是,Inkling 在位置编码上选择了相对注意力而非业界主流的旋转位置嵌入(RoPE)。它通过学习的相对位置投影直接注入注意力逻辑,并引入第四个投影张量来生成每个词元、每个头部的相对特征。这种设计在处理超长上下文时表现出更好的稳定性。
上下文窗口方面,开源权重版本支持100 万词元,而 Tinker API 托管版本目前提供25.6 万词元的上下文长度。为了在长序列上保持推理效率,模型采用5:1 的全局注意力与滑动窗口注意力交替策略,最后一层固定使用全局注意力,确保关键信息的完整捕获。
多模态原生设计:文本、图像、音频的无缝融合
Inkling 的一大亮点在于其无编码器的多模态处理方案。与许多模型需要额外挂载视觉或音频编码器不同,Inkling 将所有模态直接投影到共享的隐藏空间,由统一的解码器联合处理。
图像输入采用分层多层感知机(MLP)补丁器,逐步将像素块合并为单个嵌入向量。音频则通过离散化的梅尔频谱图进行编码,以 100 毫秒为单位分块处理。这种端到端的设计消除了多模态融合中的信息损耗,使得模型能够更自然地理解跨模态关联。
在实际评测中,Inkling 在MMMU Pro 视觉理解基准上获得73.5%的分数,在VoiceBench 音频理解上更是达到91.4%,展现出扎实的多模态基础能力。
"思考强度"调节:从 0.00 到 0.99 的灵活控制
Inkling 引入了一个颇具创新性的功能——可控思考强度。用户可以通过系统提示中的数值参数(0.00 到 0.99)来调节模型在给出答案前的计算消耗量。
这一机制通过强化学习直接训练而成,在超过3000 万次 rollout的训练过程中,模型逐渐学会了在保持准确性的前提下压缩推理链。研究团队形容其推理过程"像一位原始人数学家"——去除了语法填充,直奔核心逻辑。
这种设计带来了显著的词元效率优势。据独立测试,Inkling 在处理高难度任务时平均输出约2.5 万词元,而 GLM 5.2、Kimi K2.6 和 DeepSeek v4 Pro 则需要3.7 万至 4.3 万词元。对于按词元计费的企业用户而言,这意味着同等性能下约三分之一的成本节省。
性能实测:美国开源模型的标杆之作
在Artificial Analysis 智能指数 v4.1中,Inkling 以41 分首次亮相,成为美国开放权重模型中的最高分,领先于 Nemotron 3 Ultra(38 分)、Gemma 4 31B(29 分)和 gpt-oss-120b(24 分)。
具体基准表现方面,在思考强度设为 0.99 的条件下:
表格
| 评测项目 | Inkling 得分 |
|---|---|
| AIME 2026 数学推理 | 97.1% |
| GPQA Diamond 科学问答 | 87.2% |
| SWE-bench Verified 代码验证 | 77.6% |
| Terminal Bench 2.1 终端操作 | 63.8% |
| VoiceBench 音频理解 | 91.4% |
| HLE(含工具)人类最后考试 | 46.0% |
与 GLM 5.2 相比,Inkling 在纯文本推理上略有差距(HLE 文本:29.7% vs 40.1%),但在多模态能力、词元效率和智能体任务上展现出独特优势。社区评价也呈现出有趣的张力:Bindu Reddy 认为它"比 GLM 5.2 略逊一筹",但"是第一个值得进行基准测试的美国开源模型";而 Teortaxes 则指出,"基准测试表现平平恰恰说明他们没有在数据蒸馏上偷工减料"。
如何获取与部署 Inkling
发布首日即提供了四种主要访问途径:
Hugging Face 权重下载:在thinkingmachines/Inkling仓库中提供 BF16 和 NVFP4 两种精度的完整权重,上下文上限为 100 万词元。NVFP4 版本针对 NVIDIA Blackwell 硬件进行了优化。
Tinker API 托管服务:64K 上下文层级定价为每百万输入词元1.87 美元,输出词元4.68 美元,缓存输入0.374 美元;256K 层级价格约翻倍。API 上下文上限为 25.6 万词元。
Inkling Playground:Tinker 控制台内的交互式聊天界面,供开发者在微调前快速体验模型能力。
第三方推理平台:SGLang、vLLM、llama.cpp 和 Unsloth 提供首日支持,Databricks 通过 Unity AI Gateway 提供企业级托管访问。
对于本地部署,Unsloth 提供了六个内存层级方案,从280 GB(1 位量化)到 1900 GB(BF16)不等。配备 Mac Studio Ultra 或约 290 GB 统一内存的多 GPU 平台即可运行最小量化版本,且能保持约74.2% 的 top-1 精度。
Inkling-Small:轻量化预览版
alongside 主模型,Thinking Machines 还预览了Inkling-Small,总参数量 2760 亿,活跃参数量仅 120 亿。令人意外的是,在多个基准测试上,这个"小兄弟"与主模型表现持平甚至略优:HLE-with-tools 达到 46.6%(主模型 46.0%),GPQA Diamond 达到 88.3%(主模型 87.2%)。
不过,Inkling-Small 的完整权重目前尚未公布,具体发布时间仍待官方确认。
尚待验证的关键问题
尽管 Inkling 的发布引发了广泛关注,仍有若干细节值得持续观察:
训练数据来源方面,模型卡仅说明数据"来自公开来源、第三方获取或合成生成",但未提供具体组成明细。社区有传言称部分后训练数据提取自包括 Kimi 2.5 在内的开放模型,但 Thinking Machines 尚未对此作出正式回应。
训练计算成本和具体规模也尚未公开。此外,虽然预训练集包含视频数据,但当前发布工具中是否支持视频输入推理,官方文档中并未明确说明。
在安全性方面,Apache 2.0 的宽松许可意味着微调可能在多大程度上削弱基础模型的安全训练效果,这是一个尚未得到充分验证的开放性问题。
总结:Inkling 能否成为持久的基础模型?
Inkling 的发布标志着美国 AI 实验室在开放权重领域的实质性回归。它并非追求"最强"的排行榜追逐者,而是试图构建一个可拥有、可定制、可私有化部署的 AI 基础设施。
其成功与否将取决于三个关键信号:Inkling-Small 的正式发布能否降低微调门槛;第三方独立评估(尤其是长期智能体编码任务)能否验证其性能;以及 Tinker 平台上首批微调结果的质量——毕竟,Thinking Machines 的整个商业逻辑都建立在"定制化才是真正的价值所在"这一信念之上。
对于寻求替代闭源方案、重视数据主权、或需要在特定领域深度定制 AI 的企业而言,Inkling 提供了一个值得认真评估的选项。它可能不是当前最聪明的模型,但很可能是最实用的开放基础之一。