OpenAI与Broadcom发布Jalapeño AI推理芯片 每瓦更优
文章摘要
OpenAI与博通联合推出专为数据中心大语言模型推理任务设计的Jalapeño芯片,这是长期研发项目的初代产品,后续会持续优化。该芯片从零开发,贴合OpenAI规划,适配性强,早期测试显示每瓦性能提升,后续将公开更多技术细节。

打造ChatGPT、Codex等工具的AI企业OpenAI,与资深芯片供应商博通联合宣布推出一款名为Jalapeño的全新芯片,这款芯片将主要部署在大型数据中心中,专为数据中心场景下的大语言模型推理任务设计。
据两家企业透露,这只是长期研发项目的初代产品,后续还会针对实际需求持续优化迭代,逐步完善专用推理硬件方案。
博通方面介绍,这款专用集成电路(ASIC)完全从零开始针对大语言模型推理需求开发,研发过程中参考了与OpenAI研究人员深度沟通所得的细节洞察,同时也贴合了OpenAI自身未来模型与产品的路线规划,整个设计与生产周期耗时九个月。
相较于当前数据中心正在使用的通用推理系统芯片,这款Jalapeño芯片的设计完全针对当下大语言模型的实际推理需求打造,能够更好地匹配大模型的运行特性,针对性和适配性都更强。
OpenAI方面补充表示,早期测试结果显示Jalapeño的每瓦性能相比当前主流的顶尖芯片有显著提升,但目前完整的性能测试尚未完成,后续几个月内将发布详细的技术报告,公开更多技术细节。
塔猴是一个专注于为用户提供系统学习、内容创作与商业连接的AIGC综合服务平台,致力于为每一位AI探索者打造理想的创作、成长家园。在塔猴,你不仅可以学习众多AIGC类实战课程,获得与时俱进的AIGC技能和视野,还有机会获得长期商业合作和接单机会!点击进入:https://www.tahou.com/
AI生成内容提示:本文由人工智能辅助创作,内容仅供参考,不代表平台观点。请注意核实信息的准确性,并理性判断。
以上内容不代表本平台立场,仅供读者参考




