文章摘要

当大模型驱动的AI Agent开始成为主流的数字生产力工具,一个新的问题浮出水面:当谷歌已经索引了几乎整个开放互联网,我们是否还需要从头搭建一套全新的搜索引擎?

答案来自一支深耕搜索领域多年的团队——刚刚走出隐身状态的Keenable。这家公司由前Yandex搜索、AI和云业务负责人Andrey Styskin和前Amazon AGI的Matthias Petri联合创立,团队仅15名工程师,却选择了最“重”的路径:重新爬取整个互联网,构建独立的Web索引,将其改造为专门服务AI Agent的搜索基础设施。

Keenable刚刚完成2600万美元的种子轮融资,由Accel领投。其公开数据显示,该公司的索引已经覆盖超过1000亿份文档,在美国东部的查询延迟低于250ms(p95);针对100 RPS以上的大规模客户,单次千次请求的最低价格仅1美元。目前其API已经进入数家AI实验室和推理服务提供商的生产环境,用于模型训练和运行时检索,但并未披露具体客户名称。Styskin为Keenable定下的目标极具野心:成为AI Agent时代的“下一个谷歌”。

为什么Keenable要选择这条成本极高的路径?核心在于人和Agent使用互联网的方式完全不同。

传统搜索引擎的链路是:用户提出查询→返回结果页→用户浏览链接→点击→阅读网页,长期围绕人类行为优化,关注点击量、排序和用户满意度。而AI Agent的工作流则是:接收任务→搜索→获取内容→阅读→发现信息缺口→修改查询→再次搜索→交叉验证→最终执行动作。

一个科研Agent可能为了回答一个复杂问题执行几十次搜索,编码Agent需要不断查找最新文档、GitHub仓库和更新日志,销售Agent则可能同时查询公司官网、融资新闻、招聘信息和高管动态。对Agent来说,搜索不再是单次的按钮点击,而是任务执行循环中的常规步骤。

这意味着Agent不需要像人类一样面对“十个蓝色链接”,它需要的是足够完整、新鲜、可信,同时精简且便于模型推理的上下文。因此,Agent搜索会更关注召回率、新鲜度、延迟、并发处理能力、机器可读性、Token效率、信息来源以及完成任务的总成本。传统搜索引擎优化的是“帮人找到网页”,而Agent搜索要解决的是“用尽可能低的成本,找到足够完成任务的信息”。

Keenable并不是第一个看到这个赛道的玩家。其最直接的竞争对手Exa已经拥有同量级的独立Web索引,根据官方数据,Exa的向量数据库覆盖了1000亿份文档,追踪约1.4万亿个URL,每天抓取数十亿份文档,平台开发者超过50万。Cursor、AWS、Groq都在其客户列表中,Devin背后的Cognition联合创始人Walden Yan曾公开表示,传统搜索方案无法满足需求,Exa已经被用于Devin的多个环节。

今年5月,Exa完成2.5亿美元C轮融资,估值达到22亿美元。该公司预测,今年AI Agent发起的Web搜索数量将超过人类,未来几年大模型产生的搜索量可能达到当前谷歌搜索量的千倍。Exa的产品也不止Search API,已经覆盖搜索、内容提取、深度搜索、Agent工具和监控服务,既可以实现200ms左右的低延迟搜索,也可以启动多步骤Agent进行深度研究,其内容服务会提取与任务相关的网页片段,提供高效的Token高亮内容,而非直接返回完整网页。

这也给刚刚亮相的Keenable带来了现实的问题:既然Exa已经拥有百亿级索引、明确的客户群体和更完整的产品矩阵,为何还要重新索引一次互联网?

目前两家的侧重点有所不同:Exa已经从底层搜索向研究、Agent和结构化数据服务延伸;而Keenable更强调作为AI实验室和推理平台的底层搜索基础设施,将低延迟、高并发和规模化调用成本作为核心竞争力。Keenable面向普通开发者的价格是每千次请求4美元,100 RPS以上的专用容量可降至1美元;Exa当前公开的Search API基础价格为每千次请求7美元。虽然两家的结果数量、内容处理和服务等级并不完全相同,无法直接比价,但这已经说明:当搜索进入Agent的高频调用循环,单次调用成本本身开始成为竞争指标。

国内也已经出现类似的竞争格局。博查AI提供面向AI应用的Web搜索和AI搜索功能,搜索结果可以直接通过函数调用、MCP等方式交给Agent;心流·搜索则直接定位为“为智能体链接真实世界”,提供Web搜索、Web获取、图片搜索,并支持MCP、Skills、OpenClaw、Claude Code、LangChain和AutoGPT,其首页突出“极省Token”的特点:先过滤广告和网页冗余内容,再将重排后的精炼片段交给模型。

大厂也在改造原有搜索能力:腾讯云联网搜索API基于公开互联网资源和腾讯内容生态,从数据收录、召回到精排都针对大模型重新设计,支持分钟级更新,最快300ms返回结果,并在8月24日推出了面向Agent的联网搜索MCP;阿里云OpenSearch也已经提供独立联网搜索API,可以让大模型重写查询、过滤搜索结果,并选择返回摘要或最长3000字符的正文。

这几类产品的起点各不相同:Exa、Keenable希望掌握抓取、索引和检索全链路;博查、心流更直接争夺Agent搜索API和经过处理的上下文;腾讯、阿里则拥有原有搜索积累、内容生态和云平台入口。但它们都在争夺同一个位置:成为Agent访问互联网的默认接口。

Agent搜索可能带来一笔新的巨额账单。Agent之所以能成为独立的基础设施,一个现实的原因是Agent的搜索频率远高于人类。传统用户一次搜索行为可能仅产生几个查询,而一个Agent完成复杂任务可能需要几十次甚至上百次搜索。

假设一个任务调用100次Web搜索,按照Keenable普通开发者每千次4美元的价格,仅搜索请求就需要0.4美元;按照Exa每千次7美元的基础价格,则需要0.7美元。进入生产环境后,还要叠加内容获取、网页处理、模型上下文和推理Token的成本。因此,Agent时代的计算单位可能会从“每次搜索成本”转变为“完成任务的搜索成本”。

阿里云OpenSearch的计费结构就能说明这一点:一次联网搜索除了搜索调用,还可能触发大模型进行查询重写,结果过滤同样会消耗模型Token,其API返回字段甚至单独记录重写模型和过滤模型的输入输出Token。一次看似简单的“联网搜索”,背后已经变成了查询理解→改写→检索→过滤→上下文整理的一串计算。

这也是越来越多Agent搜索产品强调Token效率的原因:Agent真正需要的通常不是一篇五千字的完整网页,而是其中能帮助当前任务继续推理的几段内容。如果搜索层能够先删除广告、导航、推荐模块和无关段落,只将最相关的片段送入上下文,节省的不仅是搜索成本,还会进一步降低后续模型的输入Token和推理成本。由此,一条新的成本链条开始形成:Search Quality → Context Quality → Token Consumption → Agent Cost。搜索基础设施和模型基础设施开始出现在同一张账单中。

但成本只是Agent搜索变化的第一层。更深层的变化在于,Agent最终需要的可能已经不再是传统意义上的“搜索”。例如,让Agent完成这样一个任务:“找出过去六个月完成A轮融资、创始人来自谷歌、同时正在招聘推理工程师的欧洲AI公司。”

互联网上很可能不存在一张网页直接给出完整答案,融资信息可能在新闻里,创始人履历在公司官网或LinkedIn,招聘状态则藏在招聘页面。Agent必须自行完成Search → Fetch → Join → Filter → Verify的流程。

这也是Keenable仍在开发的WebQueryLanguage最值得关注的地方:Styskin在采访中透露,该工具希望让AI系统组合多个Web来源,回答任何单一页面都无法提供完整答案的问题。虽然该产品尚未正式发布,也没有足够技术细节证明其具备类似数据库查询规划器的能力,但方向非常明确:搜索系统正在尝试将开放Web从“网页集合”变成一个可以被机器查询的数据集。

搜索由此可能从find documents继续走向query the Web。如果这条路线成立,Agent搜索的终局可能并不是一个“更聪明的谷歌API”,而更像某种SQL for the open Web:Agent不再关心哪一个网页排在第一,而是提出自己真正想解决的问题,底层系统负责从不同来源找到实体、组合事实并保留证据链。这可能也是Agent给搜索带来的最大变化:网页仍然存在,但“网页”未必还是机器获取知识时最重要的组织单位。

不过,将Web变成Agent随时可以查询的外部数据库并没有听起来那么简单。第一个问题是数据的价值交换。谷歌搜索时代存在一套持续二十多年的交换关系:网站允许谷歌爬虫抓取内容,谷歌再将用户和点击流量送回网站。但Agent却可能读取十个网站后直接综合答案,甚至继续替用户执行下一步操作,用户从头到尾都不需要打开原网页。内容生产者提供了知识,却可能拿不到访问量、订阅转化和广告收入。

这种矛盾已经进入产品层:Cloudflare的按次抓取付费服务允许网站所有者选择免费开放给AI爬虫、完全阻止,或者要求抓取方付费。其背后的问题非常直接:AI公司需要持续读取Web,而内容发布者则需要重新建立内容被机器消费后的价值交换。这给Keenable、Exa这类独立Web索引带来一个悖论:Agent搜索越成功,网站越可能失去流量;网站越积极限制AI爬虫,重新建立和维护Web索引的成本就越高。

第二个问题来自安全。传统SEO主要影响用户“看到什么”,而Agent搜索的结果则可能进一步影响机器“相信什么、做什么”。如果恶意网页通过搜索进入Agent的上下文,再利用间接提示注入影响一个拥有GitHub、邮箱、企业系统甚至支付权限的Agent,一次检索错误的后果就不只是推荐了一个垃圾网站。因此,Agent搜索最终需要处理的指标可能还会增加:除了相关性、新鲜度和延迟,还包括provenance、trust 和 security。搜索引擎过去负责给用户提供信息入口,未来的Agent搜索某种程度上还承担着Agent对现实世界的“感知层”。

到了中国,这件事还有另一层特殊难度:中文互联网本身就不是一张完全开放的Web。目前国内已经有博查、心流这样的Agent搜索API,腾讯、阿里也在开放联网搜索能力,但从公开资料来看,很难找到一家国内创业公司像Keenable、Exa一样,将“独立抓取整个Web+建立100B级自主索引”明确作为最核心的技术和商业壁垒,并持续披露索引、并发处理能力和延迟等基础设施指标。

这背后的问题并不只有成本:大量有价值的中文实时信息存在于微信、小红书、抖音、知乎、电商平台以及各种App内,它们并不天然属于一个能够被统一抓取的开放Web。即使一家公司的公开网页索引足够大,也不意味着它真正看见了中文互联网。腾讯云联网搜索的产品设计就体现了这种差异:除了全网公开资源,它还会融合腾讯新闻、搜狗百科、企鹅号等自有内容生态。因此,100B Index 并不等于看见中国互联网

美国的Agent搜索更多在竞争谁能更完整、更低成本地重新索引开放Web,而中国市场还多了一层问题:谁能连接更多封闭和半封闭的内容生态。平台授权、版权、反爬机制以及内容平台之间的商业关系,都可能成为搜索算法之外的壁垒。一个拥有上千亿网页索引的中文Agent,仍可能不知道某个话题刚刚在微信公众号刷屏,也可能看不到一款新产品正在小红书快速爆发。对中文Agent来说,索引的大小不代表真正的搜索能力,它究竟能看到多少真实的中文互联网可能更重要。

Keenable押注的是一笔明确的生意:当Agent越来越频繁地访问Web,会有人愿意为更快、更便宜、更适合机器消费的搜索基础设施付费。为此,它愿意承担重新抓取、索引和维护整个Web的高昂成本,再通过低延迟、高并发的Search API将这套能力卖给AI实验室和Agent开发者。

但这套生意最终能否成立,现在还远没有答案。独立Web索引本身成本极高,Exa等竞争对手已经跑在前面,谷歌、微软以及国内大厂也掌握着现成的搜索和内容资源;与此同时,网站对AI爬虫的限制还在增加。Keenable能否把技术上的低成本、低延迟真正转化成足够大的客户需求和商业壁垒,还需要时间验证。Agent能不能真的养出一门独立于传统搜索的新基础设施生意,值得长期观察。

以上内容不代表本平台立场,仅供读者参考