文章摘要
7月16日,OpenAI前CTO Mira Murati创办的ThinkingMachinesLab发布自研AI模型Inkling。这是975B参数的开源模型,有原生多模态等亮点,性能出色。开发者可通过多种渠道获取和部署。Inkling填补美国开源模型空白,被视为重要反击,其定位是适合微调的开源基座,今日可下载体验。

7 月 16 日,OpenAI 前 CTO Mira Murati 创办的 Thinking Machines Lab 于昨日正式发布其首个自研 AI 模型 Inkling。这是一款 975B 总参数、原生多模态、上下文窗口 100 万 Token 的 MoE 架构开源模型。即日起,开发者可在 Hugging Face 下载完整权重,或通过 Thinking Machines 的 Tinker 平台直接进行微调与部署。


从 OpenAI 二号人物到自立门户,Mira Murati 的首秀选择了一条与老东家截然不同的道路,不做最强闭源,做最易定制的开源基座。


下文附参数详情、部署教程及官方链接。


Inkling 生成的多人贪吃蛇游戏


1.png

Inkling 模型亮点


参数项

详情

架构

MoE(混合专家)Transformer,66 层解码器,256 个专家中路由 6 个,另加 2 个共享专家

总参数 / 活跃参数

975B / 41B

上下文窗口

最高 100 万 Token(Hugging Face 版本)

训练数据

45 万亿 Token(文本、图像、音频、视频)

输入模态

文本、图像、音频(原生多模态)

输出模态

文本(含代码、结构化数据等)

精度支持

BF16、MXFP8、NVFP4

许可证

Apache 2.0(可商用、可修改)

轻量版预览

Inkling-Small(12B 活跃参数),测试完成后将发布


性能

Inkling 在 Artificial Analysis 智能指数上以 41 分 位居美国开源权重模型榜首。其Token 效率极高,在智能指数任务中平均仅需 25K 输出 Token,而 GLM-5.2、Kimi K2.6 和 DeepSeek V4 Pro 分别需要 43K、38K 和 37K。


在 GDPval-AA v2 智能体基准上,Inkling 的 Elo 评分达 1238,超越 Kimi K2.6的 1190 和 DeepSeek V4 Flash max 的 1189。公司特别强调,Inkling 支持可控的思考级别,用户可根据需求在速度与深度之间自由调节。


2.png

如何部署与上手


2.1 官方获取渠道


官方发布页:https://thinkingmachines.ai/news/introducing-inkling/

Hugging Face 下载:https://huggingface.co/thinkingmachines/inkling

Tinker 微调平台:https://tinker.thinkingmachines.ai/


2.2 部署方式


方式一:Tinker 平台快速微调


Inkling 已上线 Tinker 平台,开发者可直接在浏览器中进行微调与部署。Tinker 控制台同步推出了 Inkling Playground,供开发者直接与模型对话体验。Tinker 平台支持 256K 上下文窗口,API 定价:输入 $1.87/百万 Token、缓存输入 $0.374/百万 Token、输出 $4.68/百万 Token(64K 上下文)。

方式二:Hugging Face 本地/云部署


pip install transformers


加载代码示例:

from transformers import AutoModelForCausalLM, AutoTokenizer

model_name = "thinkingmachines/inkling"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name)


Inkling 支持 Unsloth Dynamic 1-bit 量化,体积可减少 86%,仅需约 280GB 显存即可运行。


Together AI、Fireworks AI、Modal、Databricks、Baseten 等平台已同步支持 Inkling 部署,SGLang、vLLM、llama.cpp 等推理框架均已集成。


3.png

为什么 Inkling 重要?


Inkling 是美国少有的能对标中国开源模型的重量级产品。在 Meta 因 Llama 4 表现不佳而转向闭源后,美国开源模型出现真空,Inkling 的发布填补了这一空白,被视为美国 AI 开源的一次重要反击。

Thinking Machines 的理念是模型终将被定制化取代。公司明确表示 Inkling 不是当今最强模型 ,而是最适合微调的开源基座。Mira Murati 在 X 上写道:“我们为 Inkling 训练了全面的能力,而不是在单一领域追求 SOTA,它是为未来我们将训练的模型打基础。”


据多家媒体报道,Inkling 的基础架构借鉴了中国的 DeepSeek-V3,并在后训练阶段使用了 月之暗面 Kimi K2.5 生成的数据进行优化。


1280X1280 (18).PNG

Inkling 在文本、智能体、多模态和音频评估中均表现出色


Inkling 发布后迅速在美国登上热榜,PyTorch 之父 Soumith Chintala 也转发了发布消息。


Mira Murati 于 2025 年 2 月创立 Thinking Machines Lab,公司去年已融资 20 亿美元,估值达 120 亿美元,团队核心成员多为前 OpenAI 员工,公司的使命是构建能延伸人类意志与判断的 AI。上个月,团队发布了交互模型研究预览,AI 被设计为能倾听、说话、甚至打断对话。


上周发布的宣言 《The Future Worth Building Is Human》,为 Inkling 的发布奠定了思想基础。


Inkling 今日即可下载与体验。 欢迎在评论区分享你的部署体验与测试反馈!


相关链接汇总:


以上内容不代表本平台立场,仅供读者参考