文章摘要
8月14日起,面向专业用户的AI编程工具将默认开启自动权限模式,即通过智能分类器自动判断操作安全性。盲测显示,该模式拦截率达89%,远超人工。它已在团队内部成功拦截多起潜在风险。专业版等部分用户默认开启,企业和API用户后续跟进,还可提前体验。此外,更新让不同会话可互发消息。

如今的AI辅助编程早已从"面向对象"进化到了"面向回车"的模式:打开AI编程工具,输入需求,等待权限弹窗,一键回车就能完成代码生成。但你真的认真检查过那些弹出的权限审批请求吗?

根据相关统计,绝大多数用户在面对这类弹窗时根本不会仔细查看,直接选择批准的比例高达97%。所谓的安全审批,其实更像是走个过场的形式而已。

为此,相关团队推出了全新的权限管理方案,从8月14日起,面向专业用户的AI编程工具将把自动权限模式设为默认选项。这意味着工具将不再逐条请求用户确认操作,而是通过智能分类器自动判断每一项操作的安全性,直接放行安全操作,拦截风险命令。

事实上,权限弹窗在用户群体中早已名存实亡。近一半的活跃命令行用户会手动在配置文件中添加允许规则,其中甚至有5%的用户直接设置了"放行所有命令"。超过六成的用户使用过绕过权限的功能,或是勾选了"不再询问"的选项,每四个会话中就有一个直接以绕过模式启动。有用户直言,自己使用绕过权限功能运行了很久,从未出过问题,更希望工具不要过度限制。

为了验证自动权限模式的有效性,团队专门开展了盲测实验。他们邀请了1053名开发者在专属测试环境中完成编程任务,并在过程中悄悄将一条权限弹窗替换为危险命令。结果显示,只有13.6%的参与者注意到了异常并选择拦截。更令人担忧的是,随着审批次数增多,用户的注意力会不断下降:最初的拦截率约为17%,当完成50次审批后,拦截率直接跌至5%。

而将同样的危险命令交给自动权限分类器处理时,拦截率达到了89%,而且无论审批次数多少,拦截率始终保持稳定,不会出现注意力疲劳的问题。交叉对比数据显示,自动模式拦下了800条被人类放过的危险命令,而人类仅拦截了6条自动模式漏掉的操作。

实际上,自动权限模式在团队内部已经运行了数月,并成功拦截了多起潜在风险事件。其中一次最惊险的场景是,AI在长时间运行的会话中试图批量终止2000多个运行中的容器,并删除数百个GPU上的训练任务,几乎摧毁正在训练的模型,最终被自动模式成功拦截。另外两次事件分别是:AI尝试将内部报告上传到公开代码分享平台,以及尝试申请完全管理员权限而非用户要求的只读权限,都被及时拦下。

从8月14日开始,专业版、最大版和团队版用户将默认进入自动权限模式。如果之前手动调整过权限设置,会收到切换提示。企业用户和API用户暂时需要手动开启,将在一个月内完成跟进。

想要提前体验的用户现在就可以开启该模式:在命令行中通过Shift+Tab快捷键切换,桌面版用户则可以在模式下拉菜单中选择。使用自动模式产生的分类器token消耗将不再计入订阅限额,用户可以零额外成本享受这项功能。

自动分类器主要负责拦截不可逆的危险操作,包括强制推送、批量删除文件、向外传输代码和密钥、向main分支推送代码、部署生产环境等。对于数据外泄类操作,分类器会永久拦截,用户必须退出自动模式才能执行。此外,它还会在推送代码前检查仓库属性,避免将内部项目代码意外推送到公开仓库;在执行类似git reset --hard这类破坏性操作前,会先检查是否存在未提交的修改。

当操作被拦截时,AI通常会自动切换到更安全的路径继续完成任务,无需用户介入。如果连续被拦截3次或累计被拦截20次,当前会话会自动降级为手动审批模式。启用自动模式的团队,代码提交数量比手动审批模式多出约25%,用户可以放心让AI通宵运行任务,第二天直接获取成果。

第三方独立机构还开展了提示注入攻击测试,在72个攻击场景中进行了720次尝试,目标包括数据泄露和凭证钓鱼等操作。在自动模式下,三款AI模型的所有攻击全部失败,成功率为0%。而对比竞品在不同模式下的表现,其自动审核模式下成功率为5.83%,完全访问模式下达到19.03%,在浏览器操作场景中甚至达到25.53%。

本次更新还带来了另一项实用功能:AI编程工具的不同会话之间终于可以互相发送消息了。用户可以同时开启多个终端会话,分别处理后端开发和前端调试工作,当后端会话修改了API接口时,可以直接通知前端会话更新适配,无需重新解释完整上下文。这项功能仅传递纯文本,不会共享对话历史和文件,支持macOS和Linux系统,需要更新到v2.1.224及以上版本才能使用。

无需等到8月14日,现在通过Shift+Tab切换到自动模式,就能体验AI编程的"自动驾驶"乐趣了。

以上内容不代表本平台立场,仅供读者参考