小米发布AI加速芯片玄戒O100：1.22TB/s带宽破内存墙，端侧大模型跑出330Token/s

2026年8月24日，小米在北京玄戒芯片技术沟通会上正式发布自研AI加速芯片玄戒O100。这是全球首款6nm 3D晶圆级堆叠AI加速芯片，通过Wafer-on-Wafer堆叠工艺实现1.22TB/s超高带宽，16倍于主流旗舰手机。小米发布AI加速芯片玄戒O100标志着端侧大模型“内存墙”瓶颈被首次从硬件层面打破——搭配玄戒O3时本地推理速度高达330Token/s。这款芯片已完成回片验证，预计2027年正式商用。

一、引言：端侧AI的“最后一公里”难题，终于等来了答案

2026年8月24日下午，北京。小米玄戒芯片技术沟通会的现场，玄戒芯片负责人朱丹面对数百名媒体人和行业观察者，一口气公布了三款自研芯片：面向旗舰手机的AI旗舰SoC玄戒O3、专为端侧大模型设计的高带宽AI加速芯片玄戒O100，以及面向汽车的高算力智驾芯片玄戒D100。

三款芯片各司其职，但最引人注目的，是那颗名为玄戒O100的芯片。

这不是一颗普通的芯片。它是全球首款6nm 3D晶圆级堆叠AI加速芯片。它的出现，直接回应了过去两年整个AI行业最大的焦虑之一——大模型在端侧部署时，算力在“等”数据。

小米发布AI加速芯片玄戒O100的消息迅速登上各大科技媒体头条。雷军当天在微博上表示，玄戒三芯正式发布，从手机到智驾，为小米“人车家全生态”终端打造AI算力底座。央视新闻也报道称“三芯齐发，中国芯片产业再突破”。

但真正值得追问的是：小米发布AI加速芯片玄戒O100，究竟解决了什么问题？它凭什么说自己推倒了“内存墙”？这颗芯片又将如何改变端侧AI的格局？

二、玄戒O100的技术解剖：如何把“内存墙”变成“内存桥”

2.1 内存墙：端侧大模型最大的“隐形杀手”

要理解小米发布AI加速芯片玄戒O100的意义，首先要理解端侧大模型面临的困境。

过去两年，大语言模型的参数规模从千亿级向万亿级狂奔，但端侧设备的算力提升速度远远跟不上模型的“膨胀”速度。更大的问题其实不在算力，而在带宽。

玄戒芯片负责人朱丹在现场解释得很直白：哪怕是最新的LPDDR6内存，也只有96根数据I/O。AI算力指数级增长，内存带宽却远远跟不上。这就是行业常说的“内存墙”——处理器算得再快，数据送不过来，一切等于零。

传统旗舰手机的内存带宽大约在75-100GB/s级别。对于一个需要在本地运行数十亿甚至百亿参数大模型的端侧设备来说，这个带宽远远不够。大模型推理时，权重数据需要反复从内存搬运到计算单元，带宽越窄，搬运越慢，推理速度就越低。

小米发布AI加速芯片玄戒O100，正是为了终结这场“等数据”的尴尬。

2.2 6nm 3D晶圆级堆叠：把数据通路从96条变成28672条

玄戒O100的核心技术突破，在于封装方式的根本性变革。

传统芯片采用POP（Package on Package）封装，数据连线只有96路。玄戒O100采用行业首款6nm晶圆级垂直堆叠（Wafer on Wafer，简称WoW）先进封装工艺。具体来说，它将两层DRAM晶圆与一层NPU计算晶圆通过Hybrid Bonding混合键合技术垂直堆叠融合。

这一堆叠方式带来的变化是颠覆性的——数据连线从96路扩展至28672路，实现了近300倍的数据通路提升。TSV（硅通孔）直径被压缩至0.7微米。键合间距做到1.4微米。内部包含258万个键合节点。

用更直观的方式理解：传统方案像是用96条窄巷子运送数据，玄戒O100则是打通了28672条高速公路。

正是这种超高密度垂直互连，让玄戒O100实现了1.22TB/s的超高内存带宽——16倍于传统旗舰手机。小米发布AI加速芯片玄戒O100，本质上是在用物理层面的堆叠创新，解决算法层面的带宽瓶颈。

值得一提的是，1.4微米的键合间距比一般HBM内存的20-50微米精细得多。这意味着玄戒O100的内存互联规格甚至优于常规云端HBM方案。

2.3 Face-to-Face金属层直连：缩短的不仅是距离

除了3D堆叠，玄戒O100还采用了创新的Face-to-Face金属层直连架构。这一架构大幅缩短了DRAM与底层计算逻辑的物理距离。

传统架构中，数据从DRAM到计算单元需要经过多层中介层和基板，路径长、延迟高。Face-to-Face直连将DRAM晶圆和NPU计算晶圆的金属层直接面对面对准键合，信号传输路径被压缩到极致。

小米方面表示，这一F2F金属层直连结构已获得多项技术专利。玄戒O100已申请15项专利，其中4项发明专利已获授权。

这不仅是技术上的突破，更是知识产权上的自主布局。小米发布AI加速芯片玄戒O100，在专利层面的储备同样值得关注。

2.4 14核NPU与高带宽矩阵总线：算力与带宽的协同

硬件堆叠只是基础。真正让玄戒O100发挥威力的，是它的计算架构。

玄戒O100内置14核大模型专用NPU核心。这不是通用计算核心，而是专门为大模型推理优化的专用加速单元。配合小米自研的XRING HB-Matrix高带宽矩阵总线，14个NPU核心可以实现高效并行计算。

玄戒O100采用近存AI计算架构。所谓“近存计算”，就是把计算单元尽可能地靠近存储单元——数据不用“跑”很远，计算直接在数据“家门口”完成。这正是3D堆叠带来的最大优势：DRAM和NPU被堆叠在同一个封装体内，物理距离被压缩到极致。

在运行小米MiMo-3B端侧大模型的场景下，玄戒O100的推理速度最高可达330Token/s。这是一个什么概念？主流旗舰手机运行同级别模型的推理速度通常在30-50Token/s左右。330Token/s意味着用户几乎感觉不到“等待”——输入问题，答案几乎是瞬时生成的。

2.5 功耗与散热：10瓦级的端侧奇迹

高性能往往意味着高功耗。但玄戒O100的定位是端侧芯片，必须塞进手机、平板、机器人等对功耗和体积极其敏感的设备里。

玄戒O100配合风冷主动散热可实现10瓦级解热能力。作为对比，英伟达旗舰H200芯片的功耗高达700W，带宽约为4.8TB/s。虽然H200的带宽是玄戒O100的约4倍，但功耗却是后者的70倍。小米发布AI加速芯片玄戒O100，走的是完全不同的技术路线——不求绝对性能最高，但求单位功耗下的效率最优。

在端侧场景中，10瓦级功耗意味着它可以被塞进手机、机器人、车载终端等设备中，而不需要外接电源或巨型散热装置。

小米方面透露，玄戒O100在研发阶段已完成多轮版图迭代，解决了晶圆堆叠翘曲、碎裂等工艺难题。这些制造层面的突破，同样不容忽视——再好的设计，如果造不出来、造不好，都只是纸上谈兵。

三、横向对比：玄戒O100与主流芯片的带宽对决

数据解读：

上表清晰地展示了小米发布AI加速芯片玄戒O100在带宽维度的碾压性优势。1.22TB/s的带宽不仅远超所有移动端芯片，甚至超过了桌面级旗舰显卡RTX 4090的1.01TB/s——而后者是一块需要外接电源、配备巨型散热器的台式机显卡。

更值得注意的是功耗数据。玄戒O100用10瓦的功耗实现了比肩甚至超越450瓦桌面显卡的带宽表现。这不是简单的性能对比，而是不同技术路线的分野——云端芯片追求绝对性能，端侧芯片追求能效比。

小米发布AI加速芯片玄戒O100，本质上是在端侧复现了云端才有的高带宽计算能力，但功耗只有云端方案的几十分之一。

四、“最佳CP”：玄戒O100与玄戒O3的端侧AI双芯方案

4.1 为什么需要两颗芯片？

玄戒O3是一颗AI旗舰SoC。它采用3nm工艺，集成240亿晶体管，安兔兔跑分突破522万。CPU为十核全大核设计，NPU张量算力达200TOPS。这些数字足够华丽，但有一个问题：即便是最先进的SoC，其内存带宽仍然受限于传统封装架构。

玄戒O3的内存带宽为113.8GB/s——这已经是全球首款支持LPDDR6内存的移动SoC了。但对于百亿参数级的大模型推理来说，113.8GB/s仍然不够。

这就是小米发布AI加速芯片玄戒O100的原因——它不是要取代玄戒O3，而是要成为玄戒O3的“最佳CP”。

小米方面明确表示，玄戒O100并非手机主处理器，而是定位独立的AI协处理单元。它与玄戒O3协同工作，组成端侧AI双芯方案。玄戒O3负责通用计算和系统运行，玄戒O100专门负责大模型推理加速。各司其职，各尽其能。

4.2 330Token/s背后的协同逻辑

当玄戒O3与玄戒O100协同工作时，端侧大模型推理速度最高可达330Token/s。

这个数字背后的协同逻辑是什么？

大模型推理分为两个阶段：Prefill（预填充）阶段和Decode（解码）阶段。Prefill阶段需要大量并行计算，Decode阶段则对内存带宽极为敏感。玄戒O100的1.22TB/s超高带宽，正好为Decode阶段提供了充足的数据“燃料”。而玄戒O3的200TOPS NPU算力，则为Prefill阶段提供了强大的计算支撑。

两者结合，才造就了330Token/s的端侧推理速度。

小米发布AI加速芯片玄戒O100的真正价值，不在于它单独能做什么，而在于它和玄戒O3一起能做什么——让端侧设备真正拥有运行大模型的能力，而不需要依赖云端。

4.3 弱网、无网场景的AI体验革命

玄戒O100的一个关键特性是：支持弱网、离线场景的AI运算。

这意味着搭载玄戒O3+玄戒O100双芯方案的设备，可以在没有网络连接的情况下，依然快速响应用户的AI需求。

这一点的重要性怎么强调都不为过。当前绝大多数AI应用依赖云端算力——用户发出请求，数据上传云端，云端计算后返回结果。这个过程需要网络、需要时间、涉及隐私。而端侧AI把一切都放在本地完成：数据不上传、隐私不外泄、响应无延迟。

小米已经展示了搭载玄戒O3+玄戒O100的原型机，内置风冷散热，并内置MiMo端侧模型。玄戒O100可适配手机、机器人、车载等多类终端。按照小米的规划，这颗芯片未来将广泛应用于手机、机器人、汽车等全生态品类。

五、从手机到汽车：玄戒O100背后的“人车家”算力版图

5.1 三芯齐发：不只是手机的事

小米发布AI加速芯片玄戒O100，并不是孤立事件。它是小米“三芯齐发”战略的一部分。

与玄戒O100一同发布的，还有玄戒O3和玄戒D100。三颗芯片分别面向三个场景：手机终端（玄戒O3）、端侧AI加速（玄戒O100）、智能驾驶（玄戒D100）。

玄戒D100是国内首款3nm智驾高算力AI芯片，拥有20核CPU与16核NPU，最高支持160GB统一内存，可本地部署200B参数大模型。

三颗芯片各司其职，但共享同一套技术底座和设计理念。雷军表示，此次三芯齐发是小米在芯片业务上的重要扩充，标志着玄戒已突破单一手机芯片设计的业务边界。玄戒已从单一手机SoC演进为全生态AI算力底座，贯穿“人车家”全场景。

5.2 从口袋到座舱：玄戒的“全场景”野心

小米发布AI加速芯片玄戒O100的背后，是一个更大的战略图景。

一套玄戒硬件解决方案，贯穿人车家全场景——从口袋里的手机，到客厅里的智能家居，再到座舱里的智能汽车。不同场景对算力的需求不同：手机需要高能效，汽车需要高算力，端侧AI需要高带宽。玄戒O3、O100、D100正好覆盖了这三个维度。

小米方面在技术沟通会上展示了一款AI Cube「Prototype」桌面AI高算力终端原型机，同时搭载了玄戒O3、O100和D100三颗芯片。这进一步印证了玄戒芯片的“全场景”属性——它们不是为单一产品线服务的，而是为小米整个生态服务的。

5.3 3000人、3年、210亿：小米造芯的“笨功夫”

小米发布AI加速芯片玄戒O100，不是一蹴而就的成果。

雷军在沟通会上透露，小米自2021年重启大芯片研发，已经五年多时间，累计投入研发经费超过210亿元，芯片团队有将近3000人的专家队伍。雷军此前曾表示，自研手机SoC至少要坚持十年，至少要投入500亿元。

这是一条漫长的路。2017年，小米发布了第一代终端SoC，当时卖出了六十多万台。但雷军坦言，中国企业造芯面对很大的困难。2018年，小米做出艰难决定，只保留了一定的芯片团队火种。

到了2024年，小米重新出发。2025年5月，玄戒O1发布。2026年8月，玄戒O3、O100、D100三芯齐发。

从“保留火种”到“三芯齐发”，小米发布AI加速芯片玄戒O100的意义，不仅在于技术本身，更在于它标志着小米的造芯之路终于走出了“死亡谷”，进入了规模化、体系化的新阶段。

六、挑战与展望：玄戒O100之后的路

6.1 量产与良率：从实验室到工厂的考验

小米发布AI加速芯片玄戒O100令人振奋，但挑战同样存在。

玄戒O100采用6nm 3D晶圆级堆叠工艺，这一技术在业界尚无大规模量产先例。晶圆堆叠过程中的翘曲、碎裂等问题，都是业界公认的难题。小米虽然表示已解决这些工艺难题，但从实验室验证到大规模量产，中间还有很长的路要走。

有分析指出，采用类似3D堆叠技术的芯片在散热和良率上通常面临挑战，量产后的实际表现和成本控制需要持续观察。玄戒O100计划于2027年正式商用——这给了小米大约一年的时间来解决量产问题。

6.2 生态建设：芯片只是起点

硬件只是起点，生态才是终点。

小米发布AI加速芯片玄戒O100之后，还需要回答一个问题：开发者愿意为这颗芯片优化应用吗？端侧大模型的应用场景足够丰富吗？

小米的优势在于它有自己的MiMo大模型、自己的澎湃OS、自己的硬件生态。芯片、操作系统、模型、终端——四者可以深度协同优化。这是苹果走过的路，也是小米正在走的路。

玄戒O100将对接澎湃OS与小米AI大模型，打通手机、汽车、智能家居的整套生态。如果这条路径走通，小米将拥有一个从芯片到应用完全自主可控的端侧AI闭环。

6.3 AI Agent时代的硬件基石

玄戒O100最令人期待的地方，在于它为AI Agent时代铺好了路。

AI Agent（人工智能代理）是当前AI行业最热门的方向之一——让AI不仅能回答问题，还能自主执行任务。但AI Agent对端侧设备的要求极高：需要持续运行、需要快速推理、需要低延迟响应。这些要求，传统手机SoC很难满足。

玄戒O100的330Token/s推理速度、1.22TB/s超高带宽、10瓦级功耗，恰好为AI Agent在端侧的部署提供了硬件基础。小米发布AI加速芯片玄戒O100，某种意义上是在为下一阶段的AI应用“修路”——路修好了，车才能跑起来。

七、结语：推倒内存墙，只是开始

2026年8月24日，小米发布AI加速芯片玄戒O100。这颗全球首款6nm 3D晶圆级堆叠AI加速芯片，用1.22TB/s的超高带宽回答了端侧AI最棘手的问题——数据到底能不能及时送到计算单元手中？

答案是：能。

玄戒O100用28672条数据通路取代了传统的96条。用1.4微米的键合间距取代了传统的几十微米。用16倍的带宽提升证明了“内存墙”并非不可逾越。

但小米发布AI加速芯片玄戒O100的意义，远不止于一颗芯片的诞生。它标志着玄戒从单一手机SoC向全场景AI算力底座的战略跃迁。它证明了端侧大模型不是遥不可及的幻想——330Token/s的本地推理速度就在那里，真实可测。它也为即将到来的AI Agent时代，铺设了第一块坚实的硬件基石。

当然，量产、良率、生态——这些挑战还在前方。但方向已经明确：端侧AI的算力底座，正在被一颗颗自研芯片重新定义。

小米发布AI加速芯片玄戒O100，推倒了内存墙。但推倒一堵墙之后，面前是一片更广阔的天地。

FAQ：关于小米玄戒O100的常见问题

问：小米发布AI加速芯片玄戒O100是什么时候？

答：2026年8月24日，小米在北京玄戒芯片技术沟通会上正式发布了玄戒O100。与之一同发布的还有AI旗舰SoC玄戒O3和智驾高算力芯片玄戒D100。

问：玄戒O100的核心技术突破是什么？

答：玄戒O100是全球首款6nm 3D晶圆级堆叠AI加速芯片。它采用Wafer-on-Wafer堆叠工艺和Hybrid Bonding混合键合技术，将两层DRAM晶圆与一层NPU计算晶圆垂直堆叠融合，键合间距仅1.4微米。数据连线从传统96路扩展至28672路。

问：玄戒O100的带宽和推理速度是多少？

答：玄戒O100实现1.22TB/s超高带宽，是主流旗舰手机的16倍。搭配玄戒O3时，端侧大模型推理速度最高可达330Token/s。在运行小米MiMo-3B端侧大模型的场景下，推理速度可达330Token/s。

问：玄戒O100什么时候正式商用？

答：玄戒O100目前已研发完成并完成回片验证，计划于2027年正式商用。玄戒O3则将于2026年9月随小米18 Fold首发上市。

问：玄戒O100和玄戒O3是什么关系？

答：玄戒O100是一颗独立的AI协处理单元，并非手机主处理器。它与玄戒O3组成端侧AI双芯方案——玄戒O3负责通用计算和系统运行，玄戒O100专门负责大模型推理加速。两者协同工作时可实现330Token/s的本地推理速度。

问：玄戒O100会用在哪些设备上？

答：按照小米的规划，玄戒O100未来可用于手机、机器人、汽车等终端。它可适配手机、机器人、车载等多类终端。小米已展示了搭载玄戒O3+玄戒O100的原型机。

问：玄戒O100的功耗是多少？

答：玄戒O100配合风冷主动散热可实现10瓦级解热能力。作为对比，英伟达旗舰H200芯片功耗约700W——玄戒O100以约1/70的功耗实现了接近云端级别的端侧AI推理能力。

问：小米在芯片研发上投入了多少？

答：雷军在沟通会上透露，小米自2021年重启大芯片研发，已累计投入研发经费超过210亿元，芯片团队有将近3000人的专家队伍。雷军此前表示，自研手机SoC至少要坚持十年、至少投入500亿元。