00后团队万格智元：让个人用得起端侧AI

最贵的模型，不该承包最简单的工作。当云端模型厂走在“斩杀线”边缘，端侧领域正悄悄摘下那些此前被忽略的机会。万格智元就是其中的代表——这家由清华、北大、中科院等院校00后学生创办的算力基础设施公司，在过去一年里始终聚焦“端侧底层”研发，不做芯片也不做模型，专注于打通模型与硬件之间的推理系统，让算力摆脱对GPU的依赖，让小内存设备也能运行大模型。

这家年轻公司的发展势头十分迅猛：成立仅一个月就拿下头部大客户千万级订单，三个月内完成交付与回款，客户覆盖头部PC和NAS厂商；半年时间里，迅速完成三轮累计近亿元融资，投资方包括多家头部投资机构与上市公司，老股东也持续追加投资，公司成立当年就实现盈利。

关于这家公司的产品与理念，行业近期与万格智元CEO进行了深度交流，以下是访谈核心内容整理：

【核心问答整理】

问：您的年龄与毕业院校？

答：2000年出生，26岁，毕业于清华大学计算机系。

问：公司成立时间与核心目标？

答：成立于2025年9月，核心目标是定义下一代Token网络，让Token的生成与推理实现自由生产，推动全民算力普惠，把原本昂贵的云端AI能力做成个人可负担的产品。目前公司推出两款核心产品：端侧Token工厂Token WiFi，以及视频生成工作站Vilot。

【Token WiFi：让Token像WiFi一样自由】

“Token界的WiFi”是这款产品的核心定位，其理念类比了WiFi对网络使用方式的改变——从时刻关注流量与费用，转向自由持续的连接。在当前AI使用中，用户往往因Token计费模式而顾虑，多轮Agent调用、多版本尝试都要精打细算，就像过去用移动流量时不敢随意刷视频。而Token WiFi的出现，希望让Token使用从“按量计费”转向“本地无限供给”，把原本需要付费的Token变成像WiFi一样的本地资源。

对个人用户而言，这款产品的核心优势有两点：一是日常任务可本地无限量运行，不再按次扣云端额度；二是数据存储在本地，安全隐私边界更清晰。目前产品正处于发货准备阶段，定价将超出市场预期。

【技术杀手锏：重新定义端侧算力效率】

万格智元的核心优势在于通过底层技术创新，重新定义端侧AI的算力效率，解决传统AI推理依赖GPU、内存容量受限的痛点。公司通过两项核心技术突破实现这一目标：一是去GPU化的端侧推理架构，通过自研算力调度与推理技术，让普通低成本SoC芯片也能释放接近高端GPU的推理能力；二是多级存储协同技术，摆脱对大容量DRAM的依赖，让小内存设备也能承载大规模模型。

以测试数据为例，在一款约300多美元的几十TOPS芯片上，万格智元实现了35B模型的运行，Prefill速度约3000 tokens/s，Decode速度约50-70 tokens/s，性能达到约3500美元消费级GPU的水平，硬件采购成本降低约88.6%，实现了约8.75倍的成本优势。

【Vilot：击穿视频生成成本的工作站】

视频生成工作站Vilot是公司推出的另一款核心产品，定位为面向短剧、漫剧等高频视频创作场景的本地设备，目标是把这类设备的使用门槛从过去的十万元级降低到千元级。与Token WiFi类似，Vilot的核心逻辑也是降低Token生产成本，不同的是它将能力从语言模型延伸到多模态，让视频创作者也能享受本地推理的成本优势。

视频生成的一大特点是需要大量试错，同一镜头往往要生成十几个版本，按次付费模式会让创作者不敢随意尝试，消耗大量心力。Vilot通过本地部署改变这一现状，用户可以像使用买断制生产力工具一样，自由生成视频。基于公司的本地推理技术，单张RTX 4090及以下设备就能完整运行Minimax H3视频生成模型，10秒视频生成成本可降至约两毛钱，远低于云端的5元成本。

内测阶段，Vilot获得了良好反馈，典型用户分为两类：一类是短剧生成团队，需要将生成环节交给本地设备以降低成本；另一类是个人创作者与小工作室，对单次成本最为敏感。同类漫剧工作站一体机月销量达数千台，而Vilot凭借更低的算力需求与成本，更具竞争力。

【从B端到C端：慢就是快的坚持】

万格智元从To B切入，再转向C端市场，并非转型，而是源于公司从一开始的目标——让端侧AI服务于普通用户。对于初创公司而言，B端业务帮助他们验证了需求真实性、供应链可行性与现金流稳定性。Token WiFi的想法，就是在B端交付过程中产生的：用户购买昂贵AI设备，本质是为了其中的AI能力，而万格希望把这份能力单独提取出来，让用户现有设备直接连接使用。

公司的核心团队以00后为主，成员多有大厂或科研机构的底层技术积累，坚持在推理系统这条主线深耕，不随热点轻易改变方向。很多团队选择量化、蒸馏等快速见效的端侧优化方法，而万格花了两年时间打磨模型底层的推理系统，虽然初期难以展示成果，但后续在模型适配时能快速跟进，比如在短剧与视频生成火起来后，两周内就做出了端侧视频生成的高水平效果。

创业过程中，团队始终保持定力，坚持做自己擅长且用户需要的事，不盲目跟风热点。他们认为，初创公司的生存之道在于用户身后，而非眼前，长期来看，基建层的价值在于支撑应用发展，而万格的目标是让应用自然生长出来。

万格智元的发展，印证了在AI行业中，看似“低垂的果实”往往需要长期坚持才能摘下，而那些不被看好的端侧领域，在云端模型的“斩杀线”下，正迎来属于自己的机会。