EngiWorld:AI工程跨软件智能体评测基准

当AI需要在多款专业工程软件间无缝切换,完成从绘图、建模到热分析的完整流程时,能否交付符合工程验收标准的成果?以散热板设计为例,工程师通常需要先在AutoCAD中完成初始绘图,再用SolidWorks进行精细化建模,最后将文件导入Abaqus开展热分析验证,这一过程要求AI在软件切换时严格保持尺寸、单位和物理条件的一致性。
针对这一真实的工业工程场景需求,由清华大学、重庆大学、中国科学院大学、北京大学以及Zhiman AI等多家机构的研究者共同推出了EngiWorld评测基准,旨在将智能体的技术评测推进到实际工程流程中,而非局限于实验室环境。
该评测基准包含1301个独立任务,覆盖26款主流工程软件,涉及CAD、CAE、CAM、BIM、EDA以及数字内容创作(DCC)多个专业领域,其中包含610个图形界面任务和691个命令行任务,能够全面覆盖不同类型的工程操作需求。
整体评测任务共分为六大类别,分别为单软件执行任务、软件选择任务、视觉引导建模任务、设计优化任务、跨软件协同任务以及开放环境工程任务,从多个维度检验AI智能体的工程落地能力。
所有提交的工程成果都需要通过严格的验收校验流程:验收程序会重新打开提交的文件,逐一核查尺寸精度、实体完整性、材料参数匹配度、载荷设置合理性以及连接关系的正确性。针对跨软件协同任务,还需要验证中间文件的格式是否符合阶段要求、数据是否保持一致;而设计优化类任务则会先确认硬约束条件是否达标,再进一步评估最终设计的整体质量。
本次评测选取了306个分层任务进行测试,其中包含158个命令行任务和148个图形界面任务。评测采用的核心指标为EngiScore,计算方式为任务得分均值乘以100,该指标涵盖二元验收和设计优化两类评测维度,并非单纯的任务完成成功率,能够更全面地反映AI智能体的工程交付能力。
在参与本次评测的七个主流AI模型中,Claude Opus 5以44.7分的成绩位居首位,但同时有129个任务全部七个模型都未能获得有效得分。目前的AI模型已经可以完成部分绘图、建模以及基础电路操作类任务,但整体运行稳定性仍存在明显短板,距离大规模工业落地还有较大差距。
跨软件协同是本次评测中暴露的最大技术难点:在24个跨软件协同任务的测试中,七个模型累计尝试了168次,最终仅成功6次,整体成功率仅约3.6%。以散热板设计的完整流程为例,在软件切换过程中出现的导入比例错误,在恢复软件后仍然重复出现,最终未能完成全部的热分析流程,凸显了跨软件数据一致性维护的难度。
EngiWorld评测基准为AI模型选型和智能体技术改进提供了统一的标准化检验环境,本次评测结果严格对应公开论文中的评测任务和运行设置,后续的智能体优化工作需要重点聚焦于提升交付文件的工程正确性,确保各项参数和流程完全符合工业标准要求。
相关研究论文可参考:https://arxiv.org/abs/2609.37686

