文章摘要
2026年8月25日,OpenAI在HotChips大会公布自研AI推理芯片Jalapeno完整测试数据。其由OpenAI与博通联合设计、台积电代工,性能超英伟达GB200/GB300,推理成本降约50%。开发仅用9个月,采用“用AI造芯片”模式。后续有迭代计划,不过也面临供应链和软件生态挑战,将重塑AI基础设施产业格局。

2026年8月25日,OpenAI在Hot Chips大会上正式公布了首款自研AI推理芯片Jalapeno(亦写作Jalapeño)的完整测试数据。这颗代号“墨西哥辣椒”的ASIC芯片由OpenAI与博通联合设计、台积电3nm制程代工,专注于大语言模型推理场景。测试结果显示,Jalapeno在每瓦AI吞吐量上较英伟达GB200/GB300系统高出1.5至1.9倍,端到端延迟降低1.7至3.6倍,同时推理成本较传统AI GPU降低约50%。OpenAI自研AI芯片Jalapeno亮相标志着这家AI巨头正式从软件层面向硬件层面延伸,开启了“模型—芯片—数据中心”全栈自研的新阶段。

OpenAI自研AI芯片Jalapeno亮相

OpenAI自研AI芯片Jalapeno亮相的时代背景:为何AI巨头必须造芯?

OpenAI自研AI芯片Jalapeno亮相并非偶然。自2022年底ChatGPT引爆全球AI热潮以来,大语言模型的训练和推理算力需求呈指数级增长。行业数据显示,主流模型推理端的算力消耗已逐渐超过训练端。对于每天处理数亿次API调用和ChatGPT请求的OpenAI而言,向英伟达采购GPU的算力成本已成为运营支出中最大的一块。

通用GPU虽然灵活,但并非针对AI推理工作负载优化。英伟达的GPU需要同时兼顾训练和推理,架构上存在大量为通用计算保留的冗余模块。而推理任务的特点是:模型权重固定、计算模式高度可预测、内存带宽成为主要瓶颈。这为专用芯片留下了巨大的优化空间。

在此背景下,OpenAI自研AI芯片Jalapeno亮相之前,谷歌早已推出TPU,亚马逊开发了Trainium和Inferentia,微软推进Maia,Meta也在布局自研AI加速器。AI大厂纷纷下场造芯的逻辑高度一致:当算力采购成本占据运营支出大头时,掌握芯片设计能力就意味着掌握成本控制权。

OpenAI的独到之处在于——它不仅是芯片的使用者,更是全球最前沿大模型的创造者。这意味着OpenAI比任何第三方芯片厂商都更清楚自己的模型需要什么样的硬件。OpenAI自研AI芯片Jalapeno亮相,本质上是“用模型定义芯片”这一理念的首次大规模实践。

九个月从零到流片:OpenAI自研AI芯片Jalapeno亮相背后的开发神话

OpenAI自研AI芯片Jalapeno亮相最令人震撼的数字不是性能跑分,而是开发周期。从架构设计到完成流片,OpenAI团队仅用了约9个月。在先进半导体领域,一颗高性能ASIC芯片从立项到流片通常需要2到3年。9个月完成——OpenAI称这是高性能先进半导体领域有史以来最快的ASIC开发周期之一。

这一“光速”开发是如何实现的?答案是“用AI造芯片”。OpenAI自身的AI模型深度参与了Jalapeno的完整研发流程——从架构探索、设计验证到算术电路优化,AI帮助团队大幅缩短了设计闭环。借助Codex与GPT-Astra(OpenAI即将发布的新模型),团队在短短两个月内就将三款原定计划外的开源大模型优化到了高水平运行状态。在GPT-OSS的部分注意力机制和专家混合模块中,AI自动生成的实现代码比人类专家编写的代码速度快了1.5到1.8倍。

OpenAI自研AI芯片Jalapeno亮相的另一个关键人物是硬件负责人Richard Ho。他此前在Google工作近九年,是Cloud TPU项目的核心工程师。从TPU到Jalapeno,Richard Ho将谷歌积累的ASIC设计经验带到了OpenAI,同时融入了OpenAI独有的AI辅助设计能力。这种“TPU基因+AI加速”的组合,是Jalapeno能够在创纪录时间内完成开发的核心原因。

硬核拆解:OpenAI自研AI芯片Jalapeno亮相,架构有何独到之处?

OpenAI自研AI芯片Jalapeno亮相,其技术架构体现了对LLM推理场景的深度理解。Jalapeno并非通用处理器,而是一颗专用集成电路,专为大语言模型推理设计,不用于模型训练。

从制程工艺看,Jalapeno采用台积电N3P节点制造,搭配N3E I/O小芯片和HBM4高带宽内存。每个芯片封装配备216GB的HBM4内存,提供15.4TB/s的内存带宽。每个芯片在MXFP4格式下可达到13.4 petaFLOPS的运算性能。每128颗芯片组成一个机架,可提供1.7 ExaFLOPS的4位运算能力、27.5TB的HBM4内存以及接近每秒2PB的内存带宽。

架构层面,Jalapeno的核心设计理念是“最小化数据搬运”。传统GPU运行AI模型时,大量算力消耗在数据从内存到计算单元的来回搬运上,计算单元经常处于等待数据的空闲状态。Jalapeno从三个层面解决了这一问题:

第一,脉动阵列架构。Jalapeno的矩阵引擎采用权重驻留的脉动阵列。数据像血液在心脏中流动一样,在紧密连接的处理单元网格中从一个单元直接传递到下一个,无需反复读写外部内存。模型权重被加载到处理网格中后即被“冻结”在原地,大幅减少了数据搬运开销。

第二,MXFP4数值格式。传统AI计算使用16位或8位数字。Jalapeno采用MXFP4格式,将数据压缩到4位。这种压缩通过将数字分组并共享单一缩放因子实现,大幅减少了存储和移动数据所需的内存。

第三,协同设计的软件栈。OpenAI为Jalapeno开发了名为Gluon的内核编程语言。工程师通过本地张量、显式通信和可预测同步来描述任务,AI则负责优化计算映射、放置、调度和跨系统协同。这种软硬件协同设计大幅降低了并行编程的复杂度。

OpenAI自研AI芯片Jalapeno亮相的架构设计,本质上是对LLM推理工作负载的一次“外科手术式”优化——砍掉通用计算不需要的部分,将每一平方毫米的硅片面积都用于加速推理任务。

实测数据解读:OpenAI自研AI芯片Jalapeno亮相,性能究竟有多强?

OpenAI自研AI芯片Jalapeno亮相后,外界最关注的是实际性能。OpenAI使用SemiAnalysis开发的公共基准测试工具InferenceX,在GPT-OSS 120B、DeepSeek R1 670B和Kimi K2.5 1T三款模型上进行了全面测试。

测试结果令人瞩目。在每瓦AI吞吐量方面,Jalapeno较英伟达GB200和GB300系统高出1.5至1.9倍。具体来看:运行GPT-OSS 120B时,每千瓦峰值吞吐量比GB200高出约1.9倍;DeepSeek R1上比GB300高出约1.7倍;Kimi K2.5上比GB300高出约1.5倍。

在延迟方面,Jalapeno的端到端延迟约为对比系统的28%至59%,即降低了1.7至3.6倍。在超低延迟的高交互场景中,性能达到对比系统的2.1至4.1倍。

功耗方面,Jalapeno的额定功率为700瓦,但在实际测试的高负载运行中,持续功耗一直维持在550瓦或更低水平。相比之下,英伟达GB200的功耗约为1.2千瓦。每个128芯片机架在700瓦/芯片的功耗下,机架功率密度约为89.6千瓦,显著低于英伟达最新的Vera Rubin GPU方案。

值得注意的是,OpenAI自研AI芯片Jalapeno亮相的测试对象为英伟达GB200和GB300系统,尚未与英伟达最新一代Vera Rubin芯片进行对比。OpenAI也强调英伟达仍是重要合作伙伴,未来将持续采用多供应商策略。

以下表格对比了OpenAI Jalapeno与英伟达GB200/GB300的核心指标:

对比维度 OpenAI Jalapeno 英伟达 GB200 英伟达 GB300
芯片类型 ASIC(专用推理) GPU(通用计算) GPU(通用计算)
制程工艺 TSMC N3P TSMC 4N TSMC 4N
内存类型 HBM4 HBM3e HBM3e
单芯片功耗 700W(实测≤550W) ~1200W ~1200W
每瓦AI吞吐量(相对) 基准(1.5-1.9倍) 1.0倍 1.0倍
端到端延迟(相对) 基准(28%-59%) 100% 100%
每机架芯片数 128颗 72颗 72颗
机架4位算力 1.7 ExaFLOPS
主要用途 推理专用 训练+推理 训练+推理

成本革命:OpenAI自研AI芯片Jalapeno亮相如何改写AI推理经济账?

OpenAI自研AI芯片Jalapeno亮相带来的不仅是性能提升,更是成本结构的根本性变化。博通CEO陈福阳向媒体透露,早期内部测试显示Jalapeno的推理成本较传统AI GPU降低约50%。

这一成本优势来自多个层面。首先,Jalapeno在更低功耗下完成更多AI工作——每瓦吞吐量1.5至1.9倍的提升意味着完成同样数量的推理任务所需电力大幅减少,而电力是AI数据中心的主要运营开支之一。其次,专用架构消除了通用GPU中不必要的冗余模块,单位算力的硅片成本更低。第三,自研芯片意味着OpenAI不再需要向第三方支付高额利润率——从“买芯片”到“造芯片”,成本结构中减少了一层中间环节。

对于每天处理数亿次API调用和ChatGPT请求的OpenAI而言,50%的推理成本降低意味着每年可节省数十亿美元的运营支出。这不仅是财务层面的优化,更将直接影响OpenAI的产品定价策略和市场竞争力——更低的推理成本意味着可以向用户提供更低价格的API服务,或在相同成本下提供更高质量的服务。

OpenAI自研AI芯片Jalapeno亮相还揭示了更深层的产业逻辑:当AI模型的参数量从千亿级迈向万亿级,推理成本将成为决定AI应用能否大规模普及的关键瓶颈。谁能在推理成本上建立优势,谁就能在AI应用层获得更大的定价权和市场份额。OpenAI通过自研芯片锁定成本优势,本质上是在为AI的规模化商用铺路。

从单芯片到多代平台:OpenAI自研AI芯片Jalapeno亮相只是开始

OpenAI自研AI芯片Jalapeno亮相被定位为“多代计算平台的第一步”。OpenAI的芯片路线图显示,第二代Jalapeno芯片已进入后期开发阶段,预计未来数月内完成流片;第三代芯片也已启动概念设计。博通计划于2028年推出下一代版本,此后每年发布新一代产品。

第二代芯片(代号B0)已在制造中,预计每瓦性能将提升约25%。这意味着OpenAI自研AI芯片Jalapeno亮相之后,其芯片迭代速度将保持每年一代的节奏——远超传统半导体行业18-24个月的更新周期。

在部署方面,OpenAI计划于2026年年底前小规模部署Jalapeno,2027年逐步扩大部署规模。芯片将部署在微软等合作伙伴的吉瓦级数据中心内。首阶段部署计划为1.3吉瓦算力。每个128芯片机架提供1.7 ExaFLOPS的4位运算能力。不过有分析指出,Jalapeno的大部分产能预计要到2027年才能准备就绪,部署节奏可能慢于官宣目标。

OpenAI自研AI芯片Jalapeno亮相的另一个重要信息是:芯片及配套服务器系统均不会对外销售,仅供OpenAI内部使用。Richard Ho明确表示:“OpenAI内部有巨大的算力需求,我们需要大量算力来满足这些需求,我们正在努力获得足够的算力”。这意味着Jalapeno不会成为英伟达的直接竞争对手——至少在商业模式上不是。OpenAI造芯不是为了卖芯片,而是为了降低自身的运营成本。

供应链隐忧:OpenAI自研AI芯片Jalapeno亮相后的扩产挑战

OpenAI自研AI芯片Jalapeno亮相虽然技术层面令人振奋,但供应链层面存在不容忽视的风险。Jalapeno的HBM4内存由三星供应。分析师指出,三星HBM4的爬坡节奏与良率历来是行业软肋,独家供应意味着Jalapeno的扩产上限被外部锁死。

如果OpenAI的Jalapeno芯片完全依赖三星供应HBM4,其部署规模可能难以达到英伟达Rubin平台的水平。高带宽内存是AI芯片性能的关键瓶颈,HBM4供应紧张可能成为制约Jalapeno大规模部署的“卡脖子”环节。

服务器系统方面,Jalapeno由加拿大制造商Celestica独家打造。单一供应商模式在扩产阶段同样存在风险。OpenAI需要在供应链多元化与成本控制之间找到平衡。

此外,OpenAI自研AI芯片Jalapeno亮相的部署还面临软件生态的挑战。英伟达的CUDA生态经过十余年积累,已成为事实上的行业标准。OpenAI为Jalapeno开发了Gluon内核编程语言,但要建立起媲美CUDA的开发者生态并非一朝一夕之功。不过,OpenAI的优势在于——它不需要外部开发者,自己的模型团队就是最大的“用户”。只要Jalapeno能高效运行GPT系列模型,对OpenAI而言就已经成功了。

产业格局重塑:OpenAI自研AI芯片Jalapeno亮相对AI基础设施的深远影响

OpenAI自研AI芯片Jalapeno亮相对整个AI基础设施产业格局的影响,可能比芯片本身的技术突破更为深远。

首先是算力供应链的去中心化。长期以来,英伟达在AI训练芯片市场占据超过80%的份额,形成了事实上的垄断。OpenAI作为英伟达最大的客户之一转向自研芯片,标志着AI算力供应链从“单极”向“多极”转变的开始。谷歌有TPU、亚马逊有Trainium和Inferentia、微软有Maia、Meta有自研加速器——如今OpenAI也加入了这一行列。当每一个AI大厂都拥有自己的芯片能力时,英伟达的市场主导地位将面临前所未有的挑战。

其次是**“模型定义芯片”范式的确立**。传统上,芯片厂商设计通用处理器,软件开发者在此基础上优化应用。而OpenAI的模式正好相反——先有最先进的模型,再为这些模型设计最匹配的硬件。这种“软件定义硬件”的模式如果被验证成功,可能引发整个半导体行业设计理念的变革。

第三是AI推理成本的长期下降趋势OpenAI自研AI芯片Jalapeno亮相证明,专用推理芯片可以在能效和成本上大幅超越通用GPU。随着更多企业加入自研芯片行列,AI推理的每token成本将进入持续下降通道。这对于AI应用的普及是重大利好——更低的推理成本意味着更多场景可以负担得起AI能力。

不过,OpenAI自研AI芯片Jalapeno亮相并不意味着英伟达的终结。OpenAI明确表示英伟达仍是重要合作伙伴,未来将持续采用多供应商策略。Jalapeno专注于推理,而训练超大模型仍需要英伟达的GPU。此外,英伟达也在快速迭代——Vera Rubin等新一代产品已经在路上。AI芯片的竞争才刚刚开始。

FAQ:关于OpenAI自研AI芯片Jalapeno亮相的常见问题

问:OpenAI自研AI芯片Jalapeno是什么时候发布的?

Jalapeno于2026年6月24日首次对外展示,2026年8月25日在Hot Chips大会上公布了完整性能测试数据。

问:Jalapeno芯片由谁设计、谁制造?

Jalapeno由OpenAI与博通联合设计,台积电采用3nm制程代工制造。

问:Jalapeno的性能真的超过英伟达GB300了吗?

根据OpenAI公布的InferenceX基准测试数据,Jalapeno在每瓦AI吞吐量上较GB300高出1.5至1.9倍,端到端延迟降低1.7至3.6倍。但测试尚未与英伟达最新一代Vera Rubin芯片进行对比。

问:Jalapeno芯片会对外销售吗?

不会。Jalapeno芯片及配套服务器系统仅供OpenAI内部使用,旨在降低自身的GPU采购和算力运营成本。

问:Jalapeno能节省多少推理成本?

博通CEO陈福阳透露,早期测试显示Jalapeno的推理成本较传统AI GPU降低约50%。

问:Jalapeno什么时候开始部署?

OpenAI计划于2026年年底前小规模部署Jalapeno,2027年逐步扩大部署规模。

问:Jalapeno是训练芯片还是推理芯片?

Jalapeno是专用推理芯片,专为大语言模型推理场景设计,不用于模型训练。

问:OpenAI还会继续开发下一代芯片吗?

会。第二代Jalapeno芯片已进入后期开发阶段,第三代也已启动概念设计。博通计划2028年推出下一代版本,此后每年发布新一代产品。

问:Jalapeno会取代英伟达GPU吗?

不会。OpenAI表示英伟达仍是重要合作伙伴,未来将持续采用多供应商策略以满足庞大的算力需求。

问:Jalapeno的功耗是多少?

额定功率为700瓦,但在实际测试的高负载运行中,持续功耗维持在550瓦或更低水平。

以上内容不代表本平台立场,仅供读者参考