斑马智能发布AutoOmni2.0：23B端侧大模型如何跑出10倍参数效果

2026年9月23日，斑马智能在云栖大会正式发布AutoOmni 2.0-23B-A3B全模态端侧大模型。该模型以23B激活参数实现对标230B云端模型的任务处理能力，推理加速5至6倍，支持8路以上多任务并发。斑马智能发布AutoOmni2.0的核心突破在于：将复杂推理能力从云端下沉至车端，以“端侧优先”路线重新定义智能座舱的交互范式与安全边界。

一、为什么23B跑出了230B的效果

1.1 MoE架构的“稀疏激活”逻辑

AutoOmni 2.0的核心技术底座是MoE混合专家模型架构。23B-A3B的命名直接揭示了它的工作方式：总参数规模23B，但每次推理仅激活约3B参数。

这意味着什么？传统稠密模型在每次前向计算中需要调用全部参数，而MoE通过路由机制将输入分配给最相关的“专家”子网络，实际参与计算的参数远小于总参数量。这样一来，模型在保持23B总容量的同时，单次推理的计算开销被压到了3B量级。车载芯片的算力预算本就有限，MoE架构恰好匹配了这种“容量大、开销小”的需求。

1.2 与云端模型的真实差距

斑马智能首席技术官司罗给出的数据是：普通任务能力“堪比”10倍参数量的云端模型，复杂任务达到后者80%至90%的水平。这个表述值得拆开来看。

普通座舱任务——比如调节空调、切换导航目的地、播放指定歌单——本质上是意图明确、约束清晰的短程推理。在这类场景中，MoE模型的路由机制能够快速锁定相关专家，响应质量与230B级云模型几乎没有可感知的差异。而复杂任务——涉及模糊意图理解、多域任务编排、跨应用服务串联——需要更深层的推理链和更广的知识调用，此时23B端侧模型与云端大模型之间约10%至20%的能力落差才会显现。

但关键在于：这10%至20%的落差，被“断网可用、低时延、数据不出车”三项端侧优势大幅补偿了。一个需要等待云端往返1至2秒才能响应的“完整能力”，和一个50毫秒内本地执行的“90%能力”，用户的实际选择往往倾向于后者。

二、端侧智能重塑了什么

2.1 从“唤醒词”到“全时存在”

传统智能座舱的交互起点是一个唤醒词。用户说“你好，某某”，系统亮起，等待指令，执行完毕后回到待机。这个流程的本质是“指令-响应”的机械循环。

AutoOmni 2.0带来的改变是“全车全时免唤醒”。系统不再需要被唤醒，而是持续处于“呼吸式存在”状态——长聆听、长观察、善记忆，在用户开口之前就已经在理解车内正在发生什么。

这个能力之所以成立，前提是推理必须在本地完成。如果每一次环境感知都需要上传云端再等待返回，延迟和带宽成本将使其无法落地。端侧23B模型的存在，让“持续感知-即时理解-主动响应”成为一个闭环，而不是三个独立的云端请求。

2.2 主动服务的真实场景

司罗在云栖大会现场演示的几个场景值得细看。

舱外场景中，车辆通过视觉识别用户双手提物的姿态，在用户接近后备箱时主动询问是否需要开启。进入车内后，系统通过Face ID和声纹识别不同乘员身份，联动空调温度、氛围灯色彩、导航目的地和媒体播放列表，完成个性化迎宾。

家庭出行场景中，系统可以识别儿童的危险动作并给予提醒，判断宠物在车内是否处于焦虑状态，离车时结合外部天气提醒用户携带雨伞或衣物。这些功能单独看并不惊人，但它们的共同特征是：不需要用户发出指令，不需要云端往返，在地下停车场等断网环境中依然可用。

2.3 安全边界的重新定义

端侧部署带来的安全价值，远不止“隐私保护”四个字可以概括。

当模型推理完全在本地完成时，用户的语音数据、面部特征、行为习惯、位置轨迹从未离开车辆。这意味着即使网络被截获、云端被攻击，车内发生的一切在物理上就不可被外部获取。斑马智能称其为“车规级端侧AI安全纵深防御体系”，在隐私保护之外还兼顾了性能开销的平衡。

这个安全逻辑的转变是结构性的。云端方案的安全模型依赖于“传输加密+访问控制”，本质上是信任链的层层加固；端侧方案的安全模型则是“数据不移动”，在物理层面消除了泄露路径。

三、量产落地的底牌

3.1 谁在用车上的AutoOmni

在云栖大会斑马智能展台上，腾势Z9GT、智己LS6、神行者8、红旗天工06的智驾系统分别来自天神之眼、Momenta、华为乾崑和卓驭——但在智舱领域，它们都选择了斑马智能元神AI。

这个细节值得注意。智驾方案的选择分散化，说明车企在驾驶辅助领域倾向于多供应商策略；而智舱领域的统一选择，则指向另一个事实：在端侧大模型座舱方案上，斑马智能目前几乎没有对等的替代选项。元神AI已实现主流车企68%的服务覆盖，端模型上车企业中63%选择了斑马智能AutoOmni。

3.2 硬件适配的深度

AutoOmni已与国内外10家芯片企业完成合作适配。全球首款搭载AutoOmni的量产车型Freelander神行者8基于高通骁龙8397平台，实现响应延迟低于50毫秒，任务响应准确度提升30%，端到端安全感知响应小于500毫秒。

在推理效率的工程优化上，Prefill阶段平均加速2倍，Decode阶段平均加速3倍，量化保真度超过99%，运行内存占用减少50%以上。这些数字的意义在于：它们让23B模型在车载芯片有限的算力和内存预算中真正“跑得起来”，而不是停留在技术演示层面。

四、端侧不是终局

司罗在演讲末尾提到一个方向：斑马智能正从AutoOmni向EdgeOmni演进，从单体智能向群体智能拓展。

这个表述需要一些解读。“单体智能”指的是当前阶段：每辆车拥有一个独立的端侧模型，各自感知、各自理解、各自决策。“群体智能”则指向一个更复杂的图景：多辆车、多个终端之间的模型能够协同——不是通过云端中转，而是在边缘侧完成信息交换和联合推理。

这听起来遥远，但有一个信号值得注意。斑马智能联合AI数据终端公司YoooClaw展示的方案，已经在数据合规的前提下打通了“车内1小时”与“车外23小时”的上下文。这意味着用户的手机、家居设备、办公终端与车辆之间的行为数据正在被整合为一个连续的“个人上下文”。当这个上下文足够丰富时，端侧模型的主动服务能力就不再局限于车内场景，而会延伸到用户的全时空生活。

但这条路线的挑战同样清晰。群体智能需要跨设备、跨品牌的协议统一，需要边缘计算基础设施的配套，更需要一套让用户信任的数据流通规则。斑马智能目前的做法是“三个连通”——连通云端与车端的算力，连通用户的多个终端，连通用户与服务。第一个和第三个连通已有落地案例，第二个连通的规模化仍需观察。

五、端侧大模型竞赛的真实胜负手

2026年的车端大模型赛道，参与者远不止斑马智能。比亚迪的迪迪虾走端云协同路线，智己IM Claw聚焦多Agent任务编排，华为鸿蒙座舱升级千亿级端到端模型，小鹏天玑AIOS 6.0落地主动服务座舱。

这些方案的底层逻辑趋于一致：端侧承担低延迟感知与基础推理，云端负责复杂推理与长尾场景。斑马智能的差异在于它选择了一条更激进的路径——将全模态大模型直接部署在端侧，使端侧具备独立完成复杂推理的能力，而非仅仅做“感知前端”。

这个选择的风险和收益同样显著。风险在于：23B模型的端侧部署对芯片算力、内存带宽、散热管理都提出了苛刻要求，不同车型的硬件差异可能导致体验分化。收益在于：如果端侧能力真的能达到云端90%的水平，那么“端侧优先”带来的延迟优势、隐私优势和离线可用性，将在用户体验层面形成难以逆转的壁垒。

一个值得持续观察的指标是：当2027年更多车企推出端侧大模型座舱方案时，斑马智能的先发优势——10家芯片适配、63%的端模型上车份额、Freelander神行者8的量产验证——是否能转化为持续的技术代际差。端侧大模型的竞赛，比的不是谁先发布，而是谁的模型能在真实车载环境中稳定运行三年而不被淘汰。

FAQ

AutoOmni 2.0和AutoOmni 1.0的最大区别是什么？

核心差异在模型规模和架构效率。AutoOmni 2.0采用23B-A3B MoE架构，总参数量从上一代的量级提升至23B，同时通过稀疏激活将单次推理开销控制在3B参数水平。此外，2.0版本在主动智能场景的数量和复杂度上也有显著扩展。

“23B激活参数”和“23B总参数”有什么区别？

23B总参数指模型包含的全部参数数量，23B-A3B中的“A3B”表示每次推理仅激活约3B参数。MoE架构通过路由机制将输入分配给最相关的专家子网络，未激活的参数不参与计算，因此实际算力消耗远低于稠密23B模型。

端侧模型断网后还能正常工作吗？

可以。AutoOmni 2.0的推理完全在本地完成，断网不影响核心功能。在云栖大会演示中，系统在地下停车场等无网络环境中依然保持了儿童监测、宠物状态识别和物品遗留提醒等功能。

哪些车型已经搭载了AutoOmni 2.0？

全球首款量产车型是Freelander神行者8，基于高通骁龙8397平台。智己、腾势、红旗等品牌也已在其智舱方案中集成斑马智能元神AI。端模型上车企业中超过六成选择了AutoOmni。

端侧模型会不会因为算力限制而比云端方案“笨”很多？

在普通座舱任务上差异几乎不可感知；在复杂任务上，23B端侧模型达到230B级云模型80%至90%的水平。考虑到端侧方案在延迟、隐私和离线可用性上的优势，实际用户体验的差距远小于参数规模的差距。