文章摘要
文章基于企业AI行业圆桌讨论,探讨企业AI落地困境与出路。从业者指出技术非瓶颈,甲方认知、上线审批、AI幻觉等才是卡点。应对之策包括按人类标准评估上线、拆分任务链等,还提及智能体将从工具进化为同事,强调先落地再谈长远目标。

"技术早就不是瓶颈,瓶颈在别处。"

"客户想要你帮他登上月球,却只愿意支付同城快递的费用。"

在一场企业AI行业圆桌讨论中,这句来自行业观察者的比喻引发了在场从业者的共鸣。四位深耕To B领域的老兵,服务客户从数百到数千家,都曾遭遇过类似的现实困境。

一位从业者分享了亲身经历:前段时间陪同销售拜访客户,对方CIO明确提出要推进数据方向的AI项目。他询问了两个核心问题:一是2TB的核心敏感数据能否部署到云端?得到的答复是“绝对不行,数据太敏感,必须放在内网”;二是公司有多少张显卡?CIO自豪地回答有四张,但紧接着补充道“我想让公司每个人都用上AI”。

2TB核心数据锁死内网、仅四张显卡、全员覆盖AI需求,这三个条件叠加,几乎构成了一个无解的难题。

"但这就是当下企业AI落地最真实的处境:技术早就不是瓶颈,瓶颈在别处。"

本次圆桌的四位参与者,都并非AI原生创业者,而是从大数据时代一路走来的企业服务老兵。其中一位的企业已有超百万数字员工在客户侧上岗,另一位深耕数据底座十余年,服务过国内多家大型金融机构。正是因为踩过上一个时代的所有坑,他们的分享格外真实坦诚。

技术门槛不再是壁垒,甲方的认知才是卡点

大数据时代的To B业务相对清晰:客户清楚自身需求,如同选购汽车般明确预算与性能,企业只需按标准交付即可。但进入AI时代,整个逻辑彻底反转——客户既不清楚自己需要什么,也说不清能从AI中获得什么,往往抱着“先做个实验,你先去赚别人的钱”的心态尝试。

这种普遍的试探心态,最终会消耗投资人的耐心。更常见的场景是,企业高层拍板推进AI项目,列出上百个应用场景,但IT部门推进到一半却发现无法申请到足够的服务器资源,业务部门又会抱怨AI准确率不足、无法落地使用。

过往中心化的项目建设模式,在AI时代已经失效,目前没有统一的标准答案,只能通过不断试错推进。但如果前期基础工作不到位,试错结果不理想,客户就会拒绝继续投入,对甲乙双方都是资源浪费。

POC效果亮眼,却卡在上线审批

另一位从业者补充道,当前企业中高层往往最着急推进AI项目,而一线业务部门态度相对消极。高层施压下,IT部门为了完成任务,会制作出精美的PPT展示智能体应用场景,但往往会出现一个典型困境:概念验证阶段效果出色,但到了真正上线环节,却没人敢签字拍板——所有人都会问:“这个智能体,真的靠谱吗?”

他们的解决方案很朴素:放弃追求完美的标准,转而以人类的工作表现作为参照。先评估该岗位原有员工的工作水平与稳定性,考虑到人类员工也会受情绪、状态等因素影响,无法做到百分百可靠,只要智能体的表现不输于人类员工,就具备上线的资格。

就如同自动驾驶技术,初期也曾饱受质疑,但随着数据积累证明机器操作比人类更可靠,行业认知才逐渐扭转。曾在头部企业负责算法的从业者也验证了这一逻辑:机器不可能没有幻觉,但人类同样会出错,上线标准不应是“零错误”,而是达到与人类相当的水平。具体做法是拆解业务流程,区分哪些环节允许一定的误差,哪些环节必须保证绝对精准,再通过多维度校验确保整体水平达标。

还有从业者坦言,通用产品的价值正在不断缩水,因为技术门槛持续降低,真正稀缺的是对垂直场景的深度理解,以及在场景中沉淀的语义与本体知识,这才是AI智能体落地的核心竞争力。

AI幻觉的本质:是我们在逼它“蒙题”

谈及AI幻觉问题,几位技术出身的从业者给出了一致的方向,只是表述各有不同。其中一位用形象的比喻解释:大模型之所以产生幻觉,本质是数据和语义准备不足,却强行要求它完成任务,就像考试时老师说“不会也蒙一个”,AI同样会遵循这个逻辑。

解决方法是将“闭卷考试”变为“开卷考试”:企业提前整理好确定性的数据与业务知识,让AI仅负责推理环节。从落地实践来看,经过这种工程化处理,AI幻觉的问题基本可以得到解决。

这里有一个常被忽略的前提:语义与本体,也就是AI如何理解企业自身的业务逻辑。大模型虽然训练了海量互联网语料,但无法理解企业内部的专属简称、缩写与流程,若不对AI进行针对性培训,它就像一名未经过入职培训的新员工,无法准确理解业务。

还有从业者分享了自身踩过的坑:曾用工具抓取数据生成报告,最终发现数据存在错误,追查后发现是因为截图分辨率不足,AI识别不准后自行编造了数据。这说明大模型不仅自身会产生幻觉,在驱动外部工具时同样会出现幻觉,且不会主动提示“无法识别”。

他们的解决方案是拆分任务链:任务链越长、压缩越紧凑,幻觉率越高。不如将任务拆分为细致的工作流,将大模型限定在特定范围内。比如财务票据审核,不要直接将原始数据交给大模型,而是让它先编写规则或伪代码,再由确定性程序进行校验,准确率会大幅提升。

还有从业者分享了内部案例:财务部门仅用几句话就开发出了符合需求的智能体,但此前工程师花费一个月都未能让客户满意。原因在于工程师虽然实现了功能逻辑,但缺乏对应的业务思维,不理解专业术语,导致反复返工。如今大模型掌握的行业知识,甚至已经超过了普通工程师。

还有从业者用简洁的原则总结核心思路:“不要让大模型承担核心计算工作”,AI负责将数据转化为易于理解的呈现形式,而核心的计算与验证则交给稳定的数据平台。比如将枯燥的数据整理为管理层易读的报告,客户看到报告后首先会质疑“数据是否准确”,其次会要求“能否验证”,因此企业需要从数据血缘追踪开始搭建完整的可验证体系,同时探索用AI快速校验AI的方法。

"说到底,治幻觉的从来不是更大的模型,而是更细的工程。"

从工具到同事:智能体的进化方向

另一位从业者将话题延伸到更远的未来:在解决了可信性问题之后,智能体的下一步进化方向是什么?他观察到,2024年初行业还普遍认为智能问数Chatbot只要能在网页端使用即可,但随着相关工具的出现,智能体的形态已经发生了变化。

在网页端,AI只是一个工具;但当智能体入驻企业即时通讯工具,被加入群聊参与协作时,它就从“工具”转变为了“同事”。他认为数据智能产品的进化需要三个核心要素:企业级的上下文共享能力、语义数据的标准与治理、以及智能体之间的协作。

他举了跨境电商的案例:客户使用数据分析智能体发现了出海商品的财务异常,但仅完成数据分析还不够,还需要知道缺陷在哪里、如何优化SEO,这就需要数据分析智能体将结构化结论传递给产品优化智能体、客服智能体等执行具体动作。智能体之间的协同联动,才能真正带来业务增效,这也是当前的重点方向。

当被问及“更可信”与“更聪明”该如何选择时,他给出了明确的答案:“可信是下限,聪明是上限”。比如金融场景中,客户经理为高净值用户出具资产配置建议,一旦数字出错,就会永久失去客户信任,此时可信性绝对优先;但在零售场景中,竞品推出活动后如果未能及时跟进,就会错过时机,此时只要趋势正确,数据略有偏差也是可以接受的。

他还分享了一个反直觉的案例:某知名茶饮连锁客户发现,智能体输出的分析思路比人类更周全。人类编写的提示词可能只有60分,但智能体扩展出的思路能达到90分。智能体不仅能执行指令,还能教会决策者新的分析方法,这种杠杆效应比单纯给出一个准确数字更有价值。

先落地,再谈“登月”

圆桌接近尾声时,一位从业者分享了早年在头部企业的经历,成为整场讨论的收尾。当时他负责用大数据系统处理维权纠纷,将2300人的团队缩减到100人。早期机器的决策水平并不高,便让它在后台学习人类的判断逻辑,通过多轮AB测试不断积累数据,最终在很多领域,机器的表现达到甚至超过了人类。

他坦言:“去年的智能体可能还无法取代人类,但今年已经可以胜任很多工作了。”回到最开始那位只有4张显卡的CIO的困境,问题或许不在于显卡数量不足,而是顺序搞反了:企业AI从来不是先“登月”再落地,而是先让智能体在具体岗位上跑起来,才有资格谈论长远的目标。

参与讨论的行业从业者

四位嘉宾均来自深耕企业服务多年的团队,覆盖数据底座、智能分析、数字员工等多个AI落地场景,拥有丰富的行业实践经验。

本次圆桌由行业主持人主持,围绕企业AI落地的真实痛点、落地路径、未来趋势等话题展开了深入讨论。

以上内容不代表本平台立场,仅供读者参考