文章摘要
华为在全联接大会上推出较原计划提前三个季度的昇腾960DT芯片,公布了一年一代、2028年推昇腾970、2029年推昇腾980的芯片演进规划。华为此次推出完整AI算力基础设施方案,打造业界首个搭载NPO光互联技术的4096卡昇腾960超节点,提升了算力利用率,同步推进CANN生态建设,明确自身定位为国内AI产业构建坚实算力底座。

在今年的全联接大会上,华为对外披露的核心信息并非单一芯片的参数升级,而是一套完整的AI算力基础设施系统解决方案,其中最受关注的首先是昇腾芯片的全新演进时间表。

此次推出的昇腾960DT芯片研发进度较原计划提前三个季度,单芯片算力实现倍增,该产品支持2 PFLOPS FP8算力、4 PFLOPS FP4算力,最高搭载288GB HBM显存,显存带宽达到9.6TB/s。基于该芯片打造的昇腾960超节点可容纳4096张NPU卡,整体算力最高可达8EFLOPS FP8,HBM总容量超过1PB。

华为轮值董事长汪涛同时公开了后续的芯片演进计划:2028年将推出昇腾970,2029年推出昇腾980,未来几年将保持“一年一代”的快速迭代节奏。

从今年开始,950、960、970、980连续几代,未来几年我们坚持一年一代,走入了快速演进的节奏。这也是国内半导体制造、封装的上下游配套全部打通之后才实现的。

不过华为此次大会想要传递的核心信息,远不止一颗性能更强的AI芯片。围绕昇腾960系列产品,华为同步展示了NPO光互联技术、超节点架构、CANN生态以及相关技术标准,清晰传递出一个信号:当前的AI算力竞争,已经逐渐演变为一场系统级的综合比拼。

随着AI大模型的训练和推理规模快速扩大,单颗芯片的算力已经难以支撑万亿甚至十万亿参数模型的计算需求,华为将突破方向放在了“规模算力”的构建上。

从过往的产品脉络来看,昇腾系列的集群规模一直在快速扩张:910C集群为384卡,950集群提升至1024卡,而960则进一步扩容到4096卡。华为通过跨物理节点的统一内存编址技术,让多颗NPU互联后的整体体验更接近一台逻辑统一的超级计算机。

根据华为的仿真训练结果,在同等十万卡集群的场景下,由4096卡超节点组成的集群,相比传统八卡服务器集群,MFU(模型算力利用率)可以提升2.75倍。汪涛解释称,MFU可以简单理解为大模型实际使用的理论算力占比,集群规模越大,通信同步、故障处理等因素越容易消耗峰值性能。

只做好一颗芯片远远不够,只做一台服务器也不够,最后要交付一个高可用度的复杂系统才有价值。

这种全链路的系统工程能力,正是华为总结的核心竞争优势。打造大规模超节点集群需要覆盖芯片设计、通信技术、IP网络、光互联、供电散热、软件架构以及故障管理等多个领域,单点性能突出并不代表整个系统可以长期稳定运行。

汪涛在受访时表示,华为在相关领域已经深耕三十年,每个细分方向都有长期大规模的研发投入,能够将这些能力整合在一个团队中的企业,目前看来只有华为。这也是昇腾960超节点受到关注的核心原因:在先进制程短期内仍存在约束的背景下,华为选择在持续提升单芯片性能的同时,将竞争战线扩展到整个算力系统层面。

昇腾960超节点的核心新增技术是NPO(近封装光学)技术。NPO是一种通过光信号实现芯片间高速数据传输的方案,传统的高速数据传输依赖电信号,随着传输距离增加,信号损耗和功耗都会明显上升。

NPO将光电转换的“光引擎”部署在靠近芯片的位置,相当于“让电信号少传输一段距离,尽早切换为光信号”,有效降低了高速互联的传输损耗和功耗。当超节点的NPU卡数量达到4096级别时,芯片间的数据交换频率大幅提升,互联能力也从辅助环节转变为决定系统整体效率的关键因素。而昇腾960超节点,正是业界首个采用NPO光引擎的超节点产品。

华为基于NPO架构推出的具体产品是Hi-ONE光引擎,单引擎集成36路200G通道,总传输容量达到7.2Tbps,并且内置了光源。汪涛在圆桌会议上将Hi-ONE的领先性概括为“三个第一”:一是首个实现规模商用的同类产品,目前多数同行仍处于实验室阶段;二是集成带宽最大的产品,实现了36路200G的集成;三是唯一内置光源的光引擎产品。

值得注意的是,华为并未直接选择当前行业讨论度较高的CPO(共封装光学)技术。CPO将光引擎与主芯片封装在一起,理论上可以进一步缩短信号传输距离,但目前在可靠性、良率、成本和后期维护方面,尚未达到华为认为适合大规模商用的标准。

CPO把光引擎和主芯片放一起,光引擎坏了整个主芯片就报废,可用度差,故障成本极高,对封装厂要求也高。现在NPO的TCO至少比CPO低40%以上。当前NPO是工程、成本各方面综合最佳选择。

不过华为对于CPO技术也保持开放态度,汪涛表示,如果未来CPO解决了可靠性和良率问题,华为也会考虑转向该技术,以进一步降低高速信号传输的损耗。

昇腾960超节点使用约5500个Hi-ONE光引擎,替代了原本需要的约4.8万个800G光模块,整体系统功耗降低超过550kW,系统无故障运行时间提升一倍,系统可用度达到99.8%。器件数量的大幅减少,也意味着更少的故障点、更低的布线复杂度和更可控的系统功耗,这也是“超节点+集群”路线能够真正落地的重要前提。

硬件性能提升的同时,昇腾生态的建设也在同步推进。目前CANN已经进入常态化开源社区运营阶段,月活跃开发者超过5200人,其中外部开发者占比达到61%;昇腾生态也已经进入PyTorch官方支持路线,开发者可以直接在PyTorch社区获取相关的适配支持。

经过八年努力,我们今天只敢说CANN生态跨过了拐点。

华为接下来计划将AI模型的适配动作进一步前置,在模型进入预训练阶段时就与模型厂商协同,提前完成昇腾适配和性能优化工作,而非等到模型发布后再进行迁移适配。

很高兴看到中国涌现出一批十分优秀的大模型企业,既有头部互联网,也有大模型初创企业,他们的优异产品和强大的创新能力显著提升了中国人工智能的全球影响力。华为的使命是为这些优秀企业构建坚实的算力底座,做好他们坚强的后盾和伙伴。

汪涛表示,未来会有越来越多的AI模型基于昇腾原生框架进行训练,这样当模型开源并落地到千行百业时,就基本不需要再进行额外的适配和优化工作。

这背后其实是华为对自身在AI产业链中位置的清晰划分。汪涛直言,华为的核心使命是打造算力底座。这一定位为昇腾、超节点、CANN乃至整个AI基础设施业务划定了明确的边界:华为将把更多资源集中在芯片研发、互联技术、系统构建和软件底座开发上,为模型厂商和互联网企业提供稳定的算力支撑。

“盘古大模型会继续服务华为自身产品的智能化升级,但华为并不会在产业链的每一层都与合作伙伴竞争。灵衢协议已经对外开放,CANN代码也在持续开源,华为希望将更多研发资源投入到芯片、超节点和算力底座的建设中。”汪涛进一步补充道。

汪涛表示,所有做大模型和训练的企业,无论是头部互联网公司还是创新型企业,都是中国科技未来的重要组成部分,华为希望成为他们的“底座和后盾”。“我们把他们托得越高,中国AI竞争力越强。”

从产品形态来看,华为的方案是以4096卡超节点作为基础计算单元,再通过多个超节点组成十万卡、数十万卡的大规模集群。华为披露,多超节点可以通过灵衢网络或RoCE协议进行扩展,二层Clos组网最大可支持51.2万卡,结合多轨道拓扑技术,技术上限可以达到百万卡级别。

不过汪涛也强调,百万卡集群更多是一个技术指标,实际的部署规模还需要结合投资成本、电力供应和实际的模型需求来综合判断。华为真正的核心目标,是让算力“触手可及”。

“我们不仅提供标准化的算力产品,还会派出专业的技术专家团队,协助客户完成昇腾原生的预训练工作,共同解决遇到的技术难题。”汪涛介绍道。

汪涛在思考华为未来的发展路线时提到,到2030年甚至更远的未来,中国的先进制造工艺还没有实现完全突破,华为必须找到一条适合自身的创新路线,同时满足国内AI训练、推理以及行业应用的需求。对于华为而言,这条创新之路是没有退路的“胜利之路”。

这也解释了华为为什么会在持续提升单芯片性能的同时,投入大量资源研发超节点、光互联技术和系统工程能力。先进制程依然是行业竞争的重要维度,但华为不会等到制造条件完全成熟后再推进产品落地。

华为需要在现有工艺条件下,将性能提升的空间从芯片本身向外延伸,通过封装技术、互联方案、光通信技术、系统架构优化和软件协同等多层级的改进,尽可能放大整体算力效率,缩小与国际领先AI芯片和计算系统之间的差距。

在圆桌会议的最后,汪涛补充道:“华为是一家产品公司,我们要为客户打造最好的产品。任总常讲,每个人都要磨好自己的豆腐,各司其职,我们的豆腐就是把算力底座做好。”

从昇腾960、Hi-ONE光引擎,到4096卡超节点、CANN生态以及相关技术标准,此次全联接大会展示的并非单一芯片的参数升级,而是一套更完整的AI基础设施路线:持续迭代单芯片性能,通过光互联技术做大系统规模,通过软件生态让AI模型原生运行,再通过标准化的产品化流程稳定交付算力服务。

华为想要守住的,正是国内AI算力基础设施的核心位置:把支撑中国AI发展的算力底座做厚做实,为国内模型企业的训练、推理和持续迭代提供充足、稳定的算力支撑。

以上内容不代表本平台立场,仅供读者参考