前OpenAI CTO Mira Murati重磅回归!Inkling开源大模型(975B参数)部署教程+网页版在线入口

7 月 16 日,OpenAI 前 CTO Mira Murati 创办的 Thinking Machines Lab 于昨日正式发布其首个自研 AI 模型 Inkling。这是一款 975B 总参数、原生多模态、上下文窗口 100 万 Token 的 MoE 架构开源模型。即日起,开发者可在 Hugging Face 下载完整权重,或通过 Thinking Machines 的 Tinker 平台直接进行微调与部署。
从 OpenAI 二号人物到自立门户,Mira Murati 的首秀选择了一条与老东家截然不同的道路,不做最强闭源,做最易定制的开源基座。
下文附参数详情、部署教程及官方链接。
Inkling 生成的多人贪吃蛇游戏

Inkling 模型亮点
参数项 | 详情 |
架构 | MoE(混合专家)Transformer,66 层解码器,256 个专家中路由 6 个,另加 2 个共享专家 |
总参数 / 活跃参数 | 975B / 41B |
上下文窗口 | 最高 100 万 Token(Hugging Face 版本) |
训练数据 | 45 万亿 Token(文本、图像、音频、视频) |
输入模态 | 文本、图像、音频(原生多模态) |
输出模态 | 文本(含代码、结构化数据等) |
精度支持 | BF16、MXFP8、NVFP4 |
许可证 | Apache 2.0(可商用、可修改) |
轻量版预览 | Inkling-Small(12B 活跃参数),测试完成后将发布 |
性能:
Inkling 在 Artificial Analysis 智能指数上以 41 分 位居美国开源权重模型榜首。其Token 效率极高,在智能指数任务中平均仅需 25K 输出 Token,而 GLM-5.2、Kimi K2.6 和 DeepSeek V4 Pro 分别需要 43K、38K 和 37K。
在 GDPval-AA v2 智能体基准上,Inkling 的 Elo 评分达 1238,超越 Kimi K2.6的 1190 和 DeepSeek V4 Flash max 的 1189。公司特别强调,Inkling 支持可控的思考级别,用户可根据需求在速度与深度之间自由调节。

如何部署与上手
2.1 官方获取渠道
官方发布页:https://thinkingmachines.ai/news/introducing-inkling/
Hugging Face 下载:https://huggingface.co/thinkingmachines/inkling
Tinker 微调平台:https://tinker.thinkingmachines.ai/
2.2 部署方式
方式一:Tinker 平台快速微调
Inkling 已上线 Tinker 平台,开发者可直接在浏览器中进行微调与部署。Tinker 控制台同步推出了 Inkling Playground,供开发者直接与模型对话体验。Tinker 平台支持 256K 上下文窗口,API 定价:输入 $1.87/百万 Token、缓存输入 $0.374/百万 Token、输出 $4.68/百万 Token(64K 上下文)。
方式二:Hugging Face 本地/云部署
pip install transformers
加载代码示例:
from transformers import AutoModelForCausalLM, AutoTokenizer
model_name = "thinkingmachines/inkling"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name)Inkling 支持 Unsloth Dynamic 1-bit 量化,体积可减少 86%,仅需约 280GB 显存即可运行。
Together AI、Fireworks AI、Modal、Databricks、Baseten 等平台已同步支持 Inkling 部署,SGLang、vLLM、llama.cpp 等推理框架均已集成。

为什么 Inkling 重要?
Inkling 是美国少有的能对标中国开源模型的重量级产品。在 Meta 因 Llama 4 表现不佳而转向闭源后,美国开源模型出现真空,Inkling 的发布填补了这一空白,被视为美国 AI 开源的一次重要反击。
Thinking Machines 的理念是模型终将被定制化取代。公司明确表示 Inkling 不是当今最强模型 ,而是最适合微调的开源基座。Mira Murati 在 X 上写道:“我们为 Inkling 训练了全面的能力,而不是在单一领域追求 SOTA,它是为未来我们将训练的模型打基础。”
据多家媒体报道,Inkling 的基础架构借鉴了中国的 DeepSeek-V3,并在后训练阶段使用了 月之暗面 Kimi K2.5 生成的数据进行优化。

Inkling 在文本、智能体、多模态和音频评估中均表现出色
Inkling 发布后迅速在美国登上热榜,PyTorch 之父 Soumith Chintala 也转发了发布消息。
Mira Murati 于 2025 年 2 月创立 Thinking Machines Lab,公司去年已融资 20 亿美元,估值达 120 亿美元,团队核心成员多为前 OpenAI 员工,公司的使命是构建能延伸人类意志与判断的 AI。上个月,团队发布了交互模型研究预览,AI 被设计为能倾听、说话、甚至打断对话。
上周发布的宣言 《The Future Worth Building Is Human》,为 Inkling 的发布奠定了思想基础。
Inkling 今日即可下载与体验。 欢迎在评论区分享你的部署体验与测试反馈!
相关链接汇总:
- 官方博客:https://thinkingmachines.ai/news/introducing-inkling/
- Hugging Face:https://huggingface.co/thinkingmachines/inkling
- Tinker 平台:https://tinker.thinkingmachines.ai/
- Mira Murati X 账号:@miramurati
- 公司 X 账号:@thinkymachines


