多Agent系统兴起,软件工程师需攻克关键工程难题

很多软件工程师正经历一场身份危机,这份职业已发生了巨大变化——有人感到沮丧,有人却从中找到前所未有的乐趣。在AI快速发展的背景下,多智能体(Agent)系统的崛起带来了一个极具吸引力的信号:AI有能力创造出令人惊叹的成果,但只有当软件工程师解决一系列核心问题后,这些成果才能真正落地。这不仅是关乎行业存亡的关键命题,也充满了技术探索的乐趣,如今正是成为软件工程师的绝佳时机。
多智能体系统的演进与新挑战
最初,智能体只是需要人类参与互动的简单聊天系统。随着AI模型在复杂任务处理上的能力不断提升,智能体系统逐渐迁移到云端,同时模型间的协作能力也日益增强,人们开始搭建起初步的多智能体系统。这类系统的应用场景也在拓展:从为某项任务启动多个子智能体的编排模式,到让智能体承担评分、建议甚至“自主思考”的辅助工作,都在推动结果的优化。
如今,多智能体系统已经被用于解决世界上最复杂、最重要的问题,比如前沿科学研究、探索发现以及硬件设计等领域。想象一下,成千上万个智能体为共同目标持续协作工作,这种规模的应用不仅带来了前所未有的可能性,也催生了一系列全新的软件工程问题,这些问题正逐步显现出来。
首先是基础设施的适配需求:需要演进现有架构以应对更具突发性的负载变化;同时要建立完善的身份认证与授权机制,精准识别不同智能体的身份,保障它们能在协作中合理操作,阻止越权行为;面对不可信的代码与内容,安全隔离措施至关重要;此外,还需要建立监控体系,当系统出现偏离方向的迹象时,能立即采取干预措施。
随着AI模型能力的持续增强,多智能体系统的影响力将越来越大。但只有软件工程师解决了这些问题,才能真正释放其潜力,让人们敢于信任这类系统,用它来攻克疾病、创造价值,而非引发风险。
需要攻克的核心问题
基础设施的适配与演进
软件行业长期基于Kubernetes构建系统,而Kubernetes原本是为无状态多副本应用或由稳定编号有状态Pod组成的集合设计的,与智能体的特性并不匹配。智能体本质上是相互隔离、带有状态的单实例负载,两次工作之间可能长时间闲置,也会大量时间等待工具调用、模型推理、其他智能体响应或人类输入。不同智能体的负载需求差异极大:有些需要快速启动,有些要避免算力浪费,有些则需要极大的规模。目前已有不少优秀工程师在全力解决这些问题,比如AI基础设施团队正在开发新的文件系统与沙箱服务,相关团队也在打造名为“智能体 substrate”的新运行时环境,不过还有大量问题有待探索。
身份与访问权限管理
智能体的身份认证仍有诸多待解问题:如何准确识别执行某一操作的具体智能体?好在这一领域可以借鉴微服务世界已有的成熟基础组件,比如用短期证书替代静态密钥来确认工作负载的身份,目前已有思路开始应用到智能体领域。
智能体的授权则更为复杂:需要明确一个智能体被允许执行的操作范围。许多智能体以代表人类用户的身份工作,会使用用户的凭据访问各类系统并执行操作,这里就出现了一个关键问题:如何区分是智能体在执行操作,还是用户本人?此外,“代表用户执行”的模式还存在更深层的问题,比如用户的有效授权机制:如果多智能体系统要连续工作数周,用户该如何为自己的智能体设定并维持有效的权限范围?虽然智能体平台提供了工具调用自动批准等功能,但要在大规模场景下做好权限管理,还需要更深入的机制设计。还有一类使用独立身份的智能体,相关问题的解决还处于起步阶段,当这类智能体参与协作时,又会产生新的疑问:一个智能体该如何信任向它发起请求的其他智能体?
安全与隔离机制
过去几个月,尤其是近期,软件漏洞暴露的速度远超行业修补的速度,其中很多漏洞出现在大量系统依赖的关键基础软件中。再考虑到成千上万个持续运行的智能体正在这些基础软件之上处理不可信的代码与内容,尚未修补的漏洞会带来更严重的风险。软件工程师的重要工作之一,就是发挥创造力加固这些基础软件,包括内核、浏览器、运行时和常用库等。
多智能体系统让安全问题进一步复杂化:一个被攻破的智能体,可能会将注入的指令传递给协作的其他智能体,这些指令还可能被记录到记忆中,让未来的智能体无意中信任它们。影响范围不再是抽象概念:当第一个智能体被攻破时,整个多智能体系统中会有多少部分面临风险?这时,强隔离的沙箱执行环境就变得至关重要,智能体应在这类环境中运行。
监控与紧急停止机制
最后,需要工具确保多智能体系统朝着有益的方向运行,一旦出现偏差就能及时发现并叫停。这需要跨智能体的链路追踪能力,同时要保证任何智能体都无法修改自身或其他智能体的追踪记录。还需要能由监控触发的紧急停止开关,可一次性关闭整个系统并撤销其凭据。真正的难点在于:如何判断系统正在朝错误的方向发展?出于善意的探索行为可能与恶意行为极为相似,比如反复尝试访问不在允许名单中的域名,这就需要更精准的判断机制。
软件工程师的机遇与价值
对于那些因担心自身知识和技能会变得不再重要而陷入身份危机的工程师来说,这些问题的解决与否,直接关系到多智能体系统能否攻克世界上的重大难题,而工程师的技能正是解决这些问题的关键。你完全可以也应该深入这些领域,学习新的技术,形成自己的见解。这个领域还有大量未解决的问题,正等待新的解决方案,这是一个令人兴奋的时代,正是发挥自身能力的绝佳时机。

