OpenAI自研“小辣椒”芯片跑分碾压英伟达Blackwell
AI芯片赛道迎来了颠覆式的新进展：OpenAI自研的首款推理专用芯片「小辣椒」，在第三方独立实测中全面超越了英伟达当前的旗舰Blackwell加速卡。
此次实测并非官方公关宣传，而是由第三方专业半导体深度研究机构受邀进入OpenAI实验室完成的真实测试。不同于行业普遍认为的初代自研芯片竞争力不足的刻板印象，该机构最终得出结论：OpenAI的这款初代芯片在几乎所有应用场景下都能击败Blackwell产品，低延迟、高吞吐、低并发等核心指标均达到行业顶尖水平。
在这款芯片的研发过程中，Codex等AI工具发挥了至关重要的作用，部分由AI生成的内核代码，性能甚至优于人类专家编写的版本，这也体现了AI辅助开发的自进化优势。
有趣的是，在「小辣椒」跑分数据公布后，英伟达的股价不仅没有出现下跌，反而上涨了2.19%。这一现象主要源于两方面原因：一方面，英伟达在同一天发布了全新的Jetson Orin Nano 2机器人专用计算平台；另一方面，OpenAI明确表态不会弃用英伟达的算力产品，当前训练任务仍大量使用英伟达芯片，双方还存在带有融资担保的深度合作协议。
今年6月，OpenAI正式官宣与博通合作研发这款推理专用芯片「小辣椒」，项目设计于2024年年中启动，从组建团队到完成流片仅用了约16个月。8月25日，OpenAI在Hot Chips 2026大会上公开了这款自研芯片的详细信息，随后更多实测细节也逐步对外披露。
该研究机构携带自研的InferenceX基准测试套件，在OpenAI实验室完成了现场验证。测试结果显示，「小辣椒」在多款主流开源大模型上，击败了当前可测试到的所有英伟达、AMD和谷歌的同类芯片产品。
能效比是这款芯片的最大亮点。「小辣椒」的热设计功耗仅为700W，而英伟达Blackwell旗舰加速卡的功耗区间在1200W到1400W之间。实测数据显示，「小辣椒」每千瓦的推理吞吐能力，达到GB200 NVL72、GB300 NVL72机架系统的1.5到1.9倍。
在推理时延方面，「小辣椒」同样表现出色。其端到端推理时延比英伟达官方记录的GB200 NVL72、GB300 NVL72的最佳成绩低1.7到3.6倍，在超低时延场景下的表现更是比竞品快2.1到4.1倍。如果在GB300的最快输出速度设置下，「小辣椒」的每千瓦吞吐能力最高可比竞品高出8.6到104.3倍。
此次测试选用了三款主流开源大模型：GPT-OSS 120B、DeepSeek R1 670B以及月之暗面Kimi K2.5（1万亿参数）。在低并发场景下，GPT-OSS和Kimi K2.5的单用户吞吐达到约1400 token每秒每用户，DeepSeek R1在并发数为1时的单用户吞吐超过700 token每秒每用户。在100 token每秒的低并发点位，Kimi K2.5的表现是次优竞品的9倍以上；GPT-OSS在同等交互密度下的每兆瓦吞吐接近GB200最高吞吐点的两倍，并发数为1时的吞吐更是高出50倍。
值得注意的是，「小辣椒」的推理正确性也没有妥协，GSM8k评测结果与英伟达芯片持平。
不过需要明确测试口径：此次测试的成绩全部基于单token预测模式，未启用推测解码，也没有进行prefill、decode分离；而作为对比的Blackwell成绩则开启了多token预测模式。研究机构表示，如果与开启多token预测的GB300进行对比，「小辣椒」的峰值能效优势会缩小到约1.5倍。此外，本次跑分的基础数据由OpenAI提供，研究团队仅在实验室现场验证了InferenceX的测试流程，并未完成完整套件测试，也没有测试其更贴合真实生产负载的AgentX基准，后者覆盖长上下文多轮对话场景。
研究机构同时指出，直接用Blackwell与「小辣椒」对比并不公平，「小辣椒」真正的对标产品是英伟达同样采用HBM4内存的下一代Vera Rubin系统。目前Vera Rubin已经开始向客户出货，而「小辣椒」目前还仅有工程样品。但即便直接对标Vera Rubin，「小辣椒」的表现依然亮眼：其单token预测模式下的每兆瓦输出吞吐，超过了英伟达和CoreWeave在7月公布的多token预测成绩，也远超GB200在2025年规划的多token预测结果。每美元产出的性能两者基本持平，但Vera Rubin的测试数据启用了推测解码，该技术可将每token的成本降低3到5倍，而「小辣椒」目前尚未启用推测解码功能，后续补上后成本优势会进一步扩大。
「小辣椒」的开发速度堪称惊人：2025年11月完成CoWoS封装设计的流片，实际芯片点亮仅用了3个月，9个月就拿出了A0步进的测试成果。当前第二版B0步进已经完成流片，每瓦性能还能再提升约25%。
从硬件规格来看，B0步进版本采用台积电N3P工艺的单计算die，搭配N3E工艺的I/O chiplet，单die可提供13.4 PFLOPS的MXFP4算力，TDP仍控制在700W。内存方面采用六组HBM4高带宽内存，单封装容量达到216GB，带宽为15.4TB/s，是目前已出货或接近出货的加速卡中最高的，内存供应商大概率为三星。
软件栈的设计同样关键，「小辣椒」的内核采用基于Triton的Gluon语言编写，保留了SPMD编程模型，但暴露了更底层的抽象接口，适配性更强。
在整个开发流程中，AI工具的作用贯穿始终：设计阶段使用Codex、GPT-Astra等工具辅助开发，成功将SIMD单元的面积缩减8%，矩阵引擎的面积缩减10%。AI自主编写的每个内核代码，部分模块的性能比人类专家编写的版本快1.5到1.8倍。迭代速度也同样惊人：8天内就将并行规模从TP8扩展到整机架TP32，不到两周的时间里，部分交互密度下的吞吐能力翻了一倍以上。还有一个有趣的细节，OpenAI使用Codex将《毁灭战士》游戏移植到了这款芯片上，可实现36 FPS的运行帧率。
颇具讽刺意味的是，用于设计这款有望冲击CUDA生态护城河的芯片的GPT 5.6 Sol模型，正是运行在英伟达GPU上的产品，英伟达的硬件正在间接推动自身潜在继任者的诞生，这也体现了AI借助自身技术实现弯道超车的可能性。
那么「小辣椒」何时能够正式投入商用？目前工程样品已经准备就绪，量产工作将在2027年逐步爬坡，大部分产能将集中在2027年底释放，下一阶段的目标是达到100MW的规模。
承载这款芯片的单机架系统被命名为Vindaloo，单机架可安装128颗「小辣椒」芯片，搭配Katsu CPU主机架和Chana交换机架，两个机架的总功耗约为160kW，最多可由16个机架、2048颗芯片组成一个scale-up扩展域。
OpenAI将与云厂商合作完成部署工作，先收集设备的可靠性数据，再逐步扩大放量规模。需要说明的是，OpenAI目前并不打算用「小辣椒」替代所有现有的芯片系列，仍将继续与英伟达的算力合作伙伴开展合作，但同时也会持续推进第二代和第三代自研芯片的研发工作。
不过「小辣椒」的落地仍存在一个巨大的不确定性：谁能带领这款自研芯片完成规模化部署？近期有消息显示，OpenAI的数据中心负责人Chris Malone已于上周离职。据知名财经媒体8月25日率先报道，另一行业媒体随后通过OpenAI发言人确认了这一消息，Malone离职后并未设置继任者，其工作职责被拆分给多位负责人共同承担。
Malone于2025年3月加入OpenAI，正是公司与甲骨文、软银宣布Stargate项目之后不久，当时他的主要职责是为公司高速增长的算力需求建设自有数据中心。Stargate项目开局并不顺利，OpenAI一度转向向云厂商租赁芯片，近期又恢复了自建数据中心的模式，改为整体租赁整座数据设施而非单独租赁芯片，但据知情人士透露，此次转型的带队者并非Malone。
Malone是OpenAI这波高管离职潮中的第4位核心成员，此前首席营收官Denise Dresser、首席运营官Brad Lightcap、CEO奥特曼的副手Fidji Simo均已离开公司。据行业统计，自今年4月以来，已有7位高层管理人员离任或换岗。在上市前的数月时间里出现如此密集的高管离职，即使按照IPO前夜的行业标准来看也极为罕见。这也让不少人担忧，「小辣椒」的规模化落地是否会缺乏合适的领军人物。
甚至有人调侃，或许可以邀请英伟达的黄仁勋派专人前来救火？当然这只是玩笑之语。
