文章摘要
近日,一家通用GPU厂商在上海举办了主题为「从模型到世界」的媒体开放日,这是其登陆港股后首次系统性展示产品全貌。开放日现场最受关注的,是一款完全在端侧设备上完成训练的机器鸭——这与此前行业巨头展示的、

近日,一家通用GPU厂商在上海举办了主题为「从模型到世界」的媒体开放日,这是其登陆港股后首次系统性展示产品全貌。开放日现场最受关注的,是一款完全在端侧设备上完成训练的机器鸭——这与此前行业巨头展示的、依赖云端算力训练的机器鸭形成了鲜明对比。

此前,行业巨头曾在某大会上展示过由云端算力支撑训练的机器鸭,其创始人表示这些机器鸭在云端超级计算机上完成了训练与能力学习。而本次开放日中的「手工版」机器鸭,通过3D打印和手工组装制作,能在现场完成走路、打盹、起身等动作,其训练全程都在端侧设备上完成,无需依赖云端算力。

这款承载机器鸭训练的端侧算力终端名为彤央TY1200,其稠密算力标称值为300 TOPS,实测性能超越了国际竞品的高端终端。现场演示显示,一台TY1200终端可独立完成从环境构建、策略训练到实时仿真的全流程,完整呈现机器人在虚拟环境中学会行走的过程,这也是国内端侧产品首次实现GPU加速的物理仿真引擎本地运行。

TY1200的性能表现通过多项实测数据得到验证:运行通义千问3.8-27B-AWQ模型时,生成吞吐达到竞品对照方案的1.38倍;在通义千问3.6-35B-A3B-AWQ模型上,这一数值为1.10倍。在视觉语言模型测试中,运行通义千问2.5-VL-3B-Instruct时,生成吞吐为竞品的1.80倍,Batch Size为32时则为1.18倍。在VLA相关测试中,TY1200在Cosmos-R2-2B和Cosmos-R2-8B模型上的表现,分别为竞品的1.58倍和1.80倍。实机对比中,TY1200返回首个Token的时间为0.223秒,生成速度达每秒30.21 Token,均优于竞品的0.411秒和每秒24.46 Token。

当算力从云端下沉到本地,AI应用的边界也在不断拓宽。端侧算力的优势在于更低的延迟、更好的数据隐私保护,以及让AI深入更多真实场景的可能。

在实验室,天数智芯联合河海大学新能源学院与常州电池协会打造的垂直AI智能体,部署在电池材料分析实验平台上,通过TY1200的算力支持,打通了从仪器数据采集到报告生成的完整流程,仅需约2分钟即可生成分析报告。

在复杂动态环境中,搭载TY1000模组的机器狗展示了端侧AI的实时感知能力:摄像头捕捉到人脸后,系统完成目标识别,机器狗随即跟随目标移动,整个过程均在本地完成。

在博物馆,TY1200实现了「白天工作、夜间训练」的模式:白天支持视觉、语音与大模型结合的智能导览服务,夜间则用于CV小模型训练,大幅提高了算力资源的利用效率。

在医院,由TY1200提供算力支持的陪诊机器人,已在上海市阳光康复中心投入使用,为视障人士提供路线引导、就诊流程指引等服务,满足了真实场景对端侧算力的高要求。

彤央系列:构建端侧算力完整生态

端侧算力的发展需要梯度化的产品矩阵来适配不同场景,天数智芯推出的彤央系列并非单一产品,而是覆盖不同场景、不同算力需求的完整矩阵,可概括为「1套生态、2种形态、5款产品」。

「1套生态」指端侧沿用了云端的通用GPU架构和完整软件栈,实现云边端技术生态共享;「2种形态」分别是面向研发客户的算力模组和面向业务客户的即插即用终端;「5款产品」则覆盖从轻量级到旗舰级的不同算力档位,满足多样化的端侧计算需求。

用AI开发AI:打造高效开发者工具链

长期以来,计算设备的生态建设依赖大量开发者经验积累,而大模型的编程能力正在改变这一现状。智能体AI技术的应用,让GPU软件开发的全流程逐步走向自动化,过去高度依赖工程师经验的工作,如今可通过AI工具链大幅提升效率。

天数智芯的软件栈核心思路分为三个层次:

  • 易于使用:优化部署流程,将某大模型的部署时间缩短至10分钟以内,让开发者更快进入模型调试阶段。
  • 易于优化:借助自动化工具链,将典型场景下的GPU性能优化时间从7天缩短至2小时,相关任务运行性能接近翻倍。
  • 易于开发:作为首家深度接入飞DSL的国产通用GPU厂商,将智能体AI与飞DSL结合,原本需要10人天的内核开发任务,有望在1人小时级别完成。

这套「用AI开发AI」的方法论,让大模型成为GPU软件开发的工具,推动国产GPU生态从人力堆叠转向AI驱动的自动化迭代。正如相关负责人所说:「智能体AI让一位工程师的经验,能够持续服务千千万万开发者。」

国产算力的高质量发展之路

国产算力正在经历重要的发展阶段,过去几年,赛道上不乏令人眼花缭乱的参数,但真正稀缺的是敢于公开性能数据、接受真实检验的底气。如今,行业正从追求算力规模的快速扩张,逐渐转向重视实际产出和长期使用价值。

当前,「高质量算力」成为衡量产品的核心标准,其核心逻辑是高效率、可预期、可持续。天数智芯尝试将云端GPU、AI软件栈与端侧产品连接,形成「增强回路」:云端负责大规模Token生产,软件栈降低开发成本,端侧让智能进入物理场景,而真实场景的反馈又反过来推动技术迭代。

最后,天数智芯预告了下一代产品彤央TY2000,标称算力达到600T的国产端侧算力时代即将到来。

以上内容不代表本平台立场,仅供读者参考