万象智维SoC芯片端侧智能，打造用户专属模型

在万象智维的会议室里，一字铺开了市面上主流的AI硬件。这家专注于端侧智能的企业，正在讨论下一代AI硬件应该具备的形态，最终确定了从端侧软件基础设施到自研消费级智算硬件的完整路线。

这家成立于2025年5月的企业，由清华大学泛在智能实验室孵化，团队核心成员来自清华、北大、上海交大等高校，以及腾讯、阿里、字节等科技企业，整体规模约30人，超六成成员投入研发工作。公司创始人兼CEO王拓为目前为清华大学计算机系在读博士生，公司发起人任炬是清华大学计算机系副教授、教育部长江学者特聘教授。

融资层面，万象智维在去年年底完成了由星连资本领投的千万元天使轮融资，近日又宣布完成数千万元的天使+轮融资，由韶音领投，瀚晖投资、知行资本、宝尔爱迪跟投，源合与浪潮担任本次融资的财务顾问。

万象智维最初将目光投向手机端的AI Agent落地，2025年12月推出了免费本地运行的Android Agent应用“小万App”，用户可通过该应用完成跨应用的点外卖、打车等操作，验证了端侧系统Agent的落地可行性。为了给手机厂商提供从底层基础设施到上层Agent的完整方案，团队曾与几乎所有主流手机品牌进行沟通，但最终发现，AI Agent正在成为手机厂商下一代操作系统的核心能力，难以通过外部整体方案采购的方式合作。

随后，万象智维将“小万App”的全套技术在GitHub开源，项目命名为OmniBot，上线后累计获得超过2000颗星标，并多次登上GitHub Trending榜单，获得了首批真实用户的正向反馈。这次开源也让团队意识到，不必将商业模式绑定在单一手机厂商身上，转而将视野拓展到更广阔的端侧SoC芯片市场。

当前市面上的AI推理引擎大多针对云侧CPU/GPU或桌面级设备设计，针对端侧SoC芯片的专用引擎存在明显空白。为此，万象智维推出了OmniInfer推理引擎，能够让大模型在端侧SoC芯片上以最小资源开销实现最快推理速度，解决了端侧设备的两大核心痛点：一是计算资源短缺，通过动态筛选关键参数参与计算，并将精简后的负载灵活分配给CPU、GPU、NPU协同处理；二是内存紧张，通过将部分数据暂存到外存、需要时快速调用，并优化计算与数据搬运的重叠流程，缩短等待时间。

相较于纯云侧的AI方案，端侧部署的优势十分显著：首先是Token成本的大幅降低，端云协同的模式可以在保证模型能力与纯云侧对齐的前提下，仅在需要复杂任务时才调用云端资源；其次是隐私安全，本地计算无需将用户的文件、对话、行为数据同步到云端；最后是实时性与离线可用性，即使在弱网或无网络的环境中，端侧设备也能完成实时处理任务。

实测数据显示，搭载OmniInfer后，原本仅能部署10B以下模型的端侧设备，可支持部署30B规模的大模型；模型预填充速度最高提升近15倍，解码性能最高提升2.49倍，内存占用节省近一半，例如运行Qwen3.5 9B模型时，推理内存可压缩至3GB以下。

关于端侧AI的持续学习，目前行业内主要有两种路径：一种是将本地数据以提示词的形式输入模型，但受限于端侧模型的上下文窗口规模，效果并不理想；另一种是做周期性微调，将端侧数据融入模型参数，但需要调用云端算力完成，端侧数据仍会上传，算不上真正的本地持续学习。万象智维自研的OmniTune算法，在周期性微调的基础上，仅针对1%-2%的LoRA参数量进行针对性微调，将成本降至推理级别，同时保证模型与数据都不出端，最终效果接近传统全量微调的水平。

在OmniInfer的基础上，万象智维进一步打造了面向端侧小模型的任务执行框架OmniClaw。当前主流的任务框架大多围绕云侧大模型设计，难以适配端侧小模型的运行需求。OmniClaw从工具接口调用、推理引导与重试机制等方面进行了专门优化，并内置了端云协同的智能路由体系：端侧可独立完成的任务直接在本地运行，复杂任务自动调用云端模型，在保证任务能力与纯云侧方案对齐的同时，大幅降低了Token调用成本。

基于这两大技术底座，万象智维推出了OmniStudio一站式端侧模型部署平台，可适配Windows、Mac、Linux、iOS及安卓操作系统，与底层硬件深度适配，落地场景覆盖手机、电脑、智能家居、AI玩具、机器人等多种终端设备。

为了让用户更直接地体验端侧AI的价值，万象智维推出了一款独立的消费级端侧智算硬件Taste。这款硬件形态类似磁吸式AI录音卡，尺寸与普通卡片相当，可吸附在手机背板上，内置独立SoC芯片、麦克风、扬声器、小型电子屏，同时配备独立电源与录音功能。

不同于依赖手机算力的端侧方案，Taste无需占用手机资源，可独立部署模型并积累用户上下文。依托OmniTune算法，设备可以在夜间利用空闲算力完成自学习，将用户白天的交互内容内化到模型参数中。每台设备都会部署用户专属的LoRA模块，随着用户数据的积累不断调整参数，最终形成每个用户独有的个性化专属模型，实现真正的持续学习与长期记忆能力。

“我们做端侧AI，并不追求模型的智能上限，而是更关注如何让模型在设备上运行得更持久、更稳定、更高效。”王拓为表示，长期来看，端侧AI的核心价值不仅在于节省Token成本或保护用户隐私，更在于让AI具备持续学习和长期记忆的能力，最终成为真正陪伴用户的专属智能助手。

端侧成本并非永久的行业痛点，而用户个性化上下文的积累才是不可替代的壁垒。“端侧真正的价值在于时间，一个承载了用户长期交互数据的设备，会逐渐成为懂你的专属助手，这种时间成本很难通过技术手段快速逾越。”王拓为补充道。

在硬件架构的选择上，万象智维放弃了桌面级架构，转而采用SoC芯片方案。与桌面级设备追求高算力高功耗不同，端侧SoC芯片的设计更注重功耗优化，以及在功耗与散热平衡的前提下实现更高算力，这也是团队判断未来端侧市场将大量拥抱SoC芯片的核心原因。

今年5月，万象智维正式启动商业化进程，目前已率先跑通B端商业模式，依托自身的技术研发与工程落地能力，为企业客户提供端侧AI技术与产品服务，已签下多个百万级订单，预计全年累计订单额将达到千万元级别。

对于B端客户，团队计划从定制化服务逐步转向标准化产品，针对PC、智能终端等厂商采用NRE+License的商业模式：通过NRE费用覆盖前期定制开发与适配成本，后续基于产品规模化应用持续收取License费用，同时还与产业伙伴联合推出智能化产品与行业解决方案。面向C端的商业化则将依托Taste硬件的销售收入与软件订阅服务，预计明年正式量产后实现规模化收入。

目前AI硬件的最终形态尚未有明确定论，端侧便携式计算赛道可能诞生独立的交互终端，也可能与其他设备联动完成任务。但万象智维的目标是先站稳端侧智能的生态位，始终保持在行业第一梯队，快速拥抱行业的最新进展。