AI Agent 10小时复刻CUDA？英伟达软件护城河动摇

近期，AI编程Agent再一次将英伟达的CUDA推到了行业讨论的中心。一家成立仅一年的AI软件初创公司，借助自研的AI工具仅用10小时，就为专用AI芯片搭建出了一套类CUDA软件方案。

这家名为Infinity的初创公司，创始人Jeremy Nixon曾任职于Google Brain研究团队。他们开发的AI研究Agent名为Ignition，专门针对不同架构的AI芯片生成底层软件代码。这套工具可以自动完成GPU内核编写、测试运行、错误排查、性能测算，并根据运行结果自动优化代码，人类工程师仅需给出高层开发方向，繁琐的调试工作全部交由Agent循环完成。

此次他们为AI芯片初创公司d-Matrix搭建的类CUDA软件，正是这套工具的落地案例。d-Matrix是一家2019年成立的企业，主打生成式AI推理芯片，联合创始人兼CEO Sid Sheth曾表示，团队很早就判断AI推理的市场机会将超过训练。原本需要数月甚至数年的底层代码适配工作，被Ignition压缩到了10小时。

尽管这套方案并未完全复刻英伟达近20年积累的完整CUDA生态，但Infinity还是凭借这项技术获得了1500万美元的融资，当前公司估值已达到1亿美元，资本对这类技术路线的认可度可见一斑。

除了这类底层软件生成方案，DeepSeek也推出了开源的TileKernels GPU算子库，采用TileLang编写，大幅减少了手写底层CUDA代码的工作量。而类似的“CUDA危机”讨论，其实已经在行业内出现过多次，每隔一段时间就会有声音宣称CUDA的护城河被颠覆，但此次AI编程Agent的进展，还是引发了更多关注。

推理市场成为新的竞争缺口

如果将AI编程Agent比作攻城武器，那么AI推理市场就是当前英伟达软件生态的薄弱环节。大模型的计算主要分为训练和推理两个阶段：训练阶段需要上万块GPU协同运行数月，完成模型的构建；推理阶段则是使用已训练好的模型完成问答等任务，仅需小集群甚至单张显卡即可运行。

在训练侧，CUDA的主导地位依然难以撼动。大规模训练对性能、稳定性和集群协同要求极高，芯片间通信、显存调度、程序错误恢复等任何环节的效率损失，放大到数千甚至数万块显卡的集群中，都会转化为真实的时间与成本损失。因此企业在选择训练平台时往往极为保守，即便其他芯片纸面参数出色，只要软件生态不够成熟、集群稳定性不足，节省的硬件成本很可能会被开发与试错成本抵消。

但在推理侧，市场规则已经发生变化。韩国AI芯片公司Rebellions的首席商务官Marshall Choy曾指出，在推理场景中，CUDA不再是决定性因素，这场竞争将转向开源软件赛道。

推理场景更关注单次问答的成本，而非极致的集群性能，且可以灵活拆分到小集群或单卡运行，企业无需像训练场景那样依赖稳定的大型集群。只要新方案能够实现更快的运行速度、更低的成本或是更优的功耗表现，客户就愿意尝试。更关键的是，推理软件支持跨芯片运行，如果推理框架能够兼容多种硬件架构，用户就可以在不同芯片之间切换而无需重写大量代码，这直接打破了CUDA最大的用户锁定效应。

这也为专用AI推理芯片留出了市场空间：针对特定模型和场景设计的推理芯片，无需具备CUDA覆盖的全栈训练能力，只要能够在特定任务中实现性能或成本优势，就可以从英伟达手中切分市场份额。

目前已有多家企业瞄准了推理市场的机会，包括主打推理芯片的Rebellions、d-Matrix，押注晶圆级芯片的Cerebras，以及亚马逊的Inferentia、谷歌的TPU、AMD的MI300X等。这些企业并不追求立刻完全替代英伟达的生态，仅需要证明在部分推理任务中，无需依赖英伟达的全套硬件与CUDA生态，就能实现更优的性能或成本，即可获得市场认可。

英伟达的护城河真的被颠覆了吗？

答案或许是“还差得远”。前文提到的10小时完成的仅是单款芯片的适配代码，而CUDA生态还包含20年积累的优化库、调试工具、社区生态以及数百万开发者群体，这绝非短时间内可以复刻的。

更关键的一点在于，能够生成代码并不等于能够直接投入生产使用。INT21创始人Bing Xu曾有过相关从业经验，其此前创办的AI芯片软件公司HippoML被英伟达收购，本人也在2026年4月才离开英伟达。他指出，AI Agent可以在短时间内生成大量代码，但代码验证才是最大的瓶颈：证明生成的代码在各种边界场景下都能正确运行、稳定输出，需要耗费大量时间，而CUDA最核心的资产之一正是其成熟的验证工具链。因此他认为，在AI Agent时代，验证生态将成为CUDA的新护城河。

Modular联合创始人兼CEO Chris Lattner也对相关炒作提出了质疑，他认为AI编码Agent带来的改进仅是渐进式的，相关宣传被严重夸大。他的理由有三点：第一，编写代码仅占软件工程的一小部分，生产级别的性能优化才是决定芯片运行成本的核心因素；第二，芯片软件开发属于小众精英领域，公开可用的训练数据远少于通用应用开发，AI模型能学习到的相关知识有限；第三，数百万行存量代码的迁移成本并非技术问题，而是企业组织的决策问题，难以通过技术手段快速解决。

还有一个容易被忽略的细节：英伟达本身也在使用AI工具进行开发。英伟达开发者生态副总裁Ankit Patel曾表示，公司正在利用AI Agent加速CUDA的开发与大规模验证工作，这也让进攻方的相对优势有所削弱。

Bing Xu总结道，这场竞争的胜负取决于竞争对手追赶英伟达的速度，能否快过英伟达自我迭代的速度。而作为全球最大的芯片制造商，英伟达显然并未停下发展的脚步。

整体来看，短期内英伟达的CUDA护城河依然稳固，但变化已经在推理市场悄然发生。从长期来看，竞争的核心将从“代码存量积累”转向“验证与优化生态构建”，谁能率先占据新的竞争高地，谁就将成为下一个阶段的赢家。