文章摘要
10月31日,更名后的Milvus Meetup首站落地深圳,活动聚焦AI检索与Agent技术实践,设置五场主题分享,涵盖Milvus 3.0统一检索能力、多企业向量检索落地案例、中小团队统一检索方案、Agent记忆技术及面向Agent的企业上下文平台建设等内容。

10月31日,Unstructured Data Meetup更名为Milvus Meetup后,首站落地深圳。本次活动仍围绕AI与非结构化数据展开,但讨论范畴已从检索系统延伸至更广泛的业务场景。

活动期间的五场主题分享,从不同维度探索了向量检索在实际应用中的落地路径与优化方向。

Milvus 3.0:同一引擎整合关键词与语义检索

Zilliz的首席开源布道师带来《Milvus 3.0:更快、更强的全文检索》主题分享,聚焦业务同时需要关键词检索与向量语义召回的核心问题。过去这类需求常依赖Elasticsearch与向量数据库两套系统组合实现,需要维护两条写入链路、处理数据同步、解决不同打分方式衔接,随着数据规模增长,这些工作成为检索系统的额外成本。

Milvus在多版本中持续补充全文检索能力,允许开发者在同一套引擎中组合BM25、向量检索和标量过滤,并通过RRF或加权方式融合结果。围绕查询链路,多语言分析、自定义词典、短语匹配和高亮等功能可保留完整文本信号;分组、聚合与业务排序则让搜索结果适配具体产品需求。

实际生产中已有成熟案例验证其性能:美团将百亿级数据从Elasticsearch迁移至Milvus,单表支持20亿条向量,1亿条768维向量场景下QPS达1000,P99延迟仅8.1毫秒;快手则用Milvus解决Elasticsearch读写资源争用、维度上限仅4096的问题,内部部署100余套生产集群,最大QPS超1万。

货拉拉:多场景向量检索的业务实践

货拉拉大数据技术与产研部资深工程师分享了向量检索在风控、GraphRAG和NL2SQL等场景的落地经验。

文本风控方面,针对风险文本通过插入空格、符号或替换措辞绕过关键词规则的问题,货拉拉将风险样本沉淀为向量,新文本进入时检索相近样本,结合相似度阈值和规则引擎完成判断。该场景日均检索量达百万级,P99延迟需控制在50毫秒内,最终选择Milvus提供候选结果,低峰期批量更新风险样本以平衡延迟与召回要求。

图片风控对应日均千万级装卸货凭证,链路从Spark批处理开始,经图片下载、自研视觉特征模型推理后,将向量批量写入Milvus;通过异步请求减少等待,控制送入Triton的批次提升GPU利用率,在线查询复用同一特征提取方式完成匹配。

GraphRAG场景中,向量检索与原有知识图谱能力结合,用户文档分块、实体与关系抽取后分别进入Milvus与知识图谱,通过统一实体标识关联,补充文本片段外的关联知识。同时通过内容指纹判断片段变化,避免重复嵌入和建图,实体抽取受预定义类型约束减少噪声,使该场景问答准确率从56%提升至78%。

NL2SQL场景对精确匹配要求更高,需明确用户问题对应的表、字段、口径等信息。货拉拉将两类信息对齐到同一实体体系,通过向量、全文和图谱检索组合召回,最终向模型提供组织后的上下文;生成SQL后经静态校验与引擎预检,确保结果正确性,重要报表还需接受业务口径检查。

Teamily AI:中小团队的统一检索服务方案

Teamily AI的分享聚焦中小团队如何组织工程能力,解决多Agent产品的重复建设问题。其产品形态是多个Agent与人协作,产生Agent查找、交付物搜索、历史记忆等关联需求,这些需求的检索对象和排序策略有差异,但底层操作高度共性。

为此,团队构建了统一的检索服务层,封装Milvus、模型推理服务及内容曝光状态管理等能力,上层业务负责定义检索规则,底层提供可复用的读写流程、性能优化与容错机制。例如,模型服务层引入性能与成本感知的动态路由,根据服务状态选择合适模型;重排服务异常时自动回退原有结果;结合内容曝光记录对已读内容降权,提升结果多样性。

优化延迟方面,多数场景可省略rerank步骤,用轻量逻辑回归打分替换,调整召回策略让原子事实参与检索。测试环境不同并发档位下,P90延迟降低27%-72%,总体准确率无显著统计差异。

MemoraX AI:学习式Agent记忆的演进探索

MemoraX AI的主题分享围绕记忆系统展开,传统Agent记忆以存储和检索为核心,而新方向是推动记忆向具备自主学习能力的模型演进。通过大模型专项后训练,让模型学习什么值得记住、如何精准检索,以及将历史经验转化为解决新问题的能力。

技术实践中,基于大量真实Agent执行轨迹训练记忆模型,使其自主提炼对未来任务有价值的事实、约束与可复用经验;结合学习式检索、复杂查询编译与程序性记忆等技术,提升长期记忆的精准调用和跨任务复用能力。目前相关技术在多项评测和复杂任务中展现出更强表现,未来将通过真实任务反馈持续训练,推动记忆原生模型发展,为Agent长期学习提供支撑。

Google Cloud:面向Agent的企业上下文平台

Google Cloud的分享聚焦企业数据平台如何适配Agent访问的需求。人类分析师查询数据时会携带隐性知识,如可信表、指标计算规则等,Agent需通过系统获取这些信息,否则会沿错误口径推进任务。

随着数据访问从人类转向大量Agent,平台需支撑更高并发,同时适配智能体编排、主动趋势预判等新场景。直接为每个Agent编写技能或指标说明会面临版本同步问题,Google Cloud提出通过Knowledge Catalog产品统一聚合多源元数据,构建企业级统一上下文平台,解决口径不一致、上下文过期等问题。

此外,企业知识分布在数仓、业务数据库、对象存储和文档系统中,Google Cloud与Milvus等合作优化开放湖仓、多模态AI函数和跨系统访问,减少开发者为使用AI反复导出、处理数据的工作,让分析能力、业务定义和检索能力共同参与任务。

以上内容不代表本平台立场,仅供读者参考