检索增强生成RAG系统的效果在很大程度上取决于检索阶段的质量。即使拥有最优质的知识库如果查询理解不准确、检索策略不得当最终生成的答案也会偏离用户需求。查询理解与重写Query Understanding Rewriting正是提升 RAG 检索质量的关键技术。本文将深入探讨这一领域的核心方法和工程实践。一、查询理解从字面到意图用户输入的问题往往不直接对应知识库中的内容。查询理解的目标是将原始问题转化为对检索更友好的形式并准确把握用户意图。查询理解通常包括以下几个层次意图识别。用户是在问事实、求解释、要比较、还是要操作指南不同的意图需要不同的检索策略。例如比较类问题需要检索多个实体的信息操作类问题需要检索步骤性文档。实体识别与链接。识别问题中的关键实体如产品名、人名、专业术语并将其链接到知识库中的标准概念。实体链接可以减少同义词和歧义带来的检索偏差。上下文感知。在多轮对话中当前问题可能依赖前文的省略和指代。查询理解需要结合对话历史将这个“它”“上一个等指代消解为完整语义。语言理解。处理拼写错误、口语化表达、多语言和跨语言查询。例如用户用英文提问但知识库是中文需要跨语言检索能力。## 二、查询重写让检索更精准查询重写是将用户原始问题转化为更适合检索的查询表达。常见的查询重写技术包括扩展式重写。通过同义词、相关词、上下位词扩展查询增加召回率。例如将LLM扩展为大语言模型、Large Language Model、GPT、Claude”。扩展可以通过词典、词向量或生成模型实现。分解式重写。将复杂问题分解为多个子问题分别检索后再综合。例如“比较 Qwen 和 Llama 的性能可以分解为Qwen 的性能如何和Llama 的性能如何”。抽象式重写。将具体、口语化的问题改写为更正式、更标准的表达。例如“这玩意儿怎么用改写成产品使用说明”。生成模型在这一任务上表现突出。伪文档重写。直接根据问题生成一个假设的文档段落然后用这个伪文档去检索相似的文档。这种方法可以弥合查询和文档之间的语义鸿沟但需要注意幻觉问题。查询扩展与压缩。对于过长的问题提取关键短语用于检索对于过短的问题补充上下文信息。平衡查询的信息量和检索精度是关键。## 三、混合检索策略重写后的查询通常需要配合混合检索策略。常见的组合包括向量检索 关键词检索。向量检索擅长语义匹配关键词检索擅长精确匹配。将两者结合可以在保证召回的同时提升精确率。常用的融合方法包括 RRFReciprocal Rank Fusion和加权分数融合。稀疏检索 稠密检索。稀疏检索如 BM25基于词项匹配稠密检索基于语义 Embedding。两者互补混合使用通常优于单一方法。多路召回。将一个问题通过多种方式重写每种方式独立检索最后合并结果。例如原始查询、扩展查询、分解查询分别检索再融合去重。## 四、查询路由与索引选择当知识库规模很大、包含多个领域时需要先将查询路由到合适的索引或子库。查询路由可以根据领域分类、文档类型、时间范围等进行。例如一个企业知识库可能包含产品文档、技术规范、销售话术、客户案例等多个子库。查询路由首先判断问题属于哪个领域然后只在该领域内检索避免无关信息干扰。路由本身可以是一个小型分类模型也可以基于关键词规则或 Embedding 相似度实现。对于复杂场景多级路由先领域、后子主题可以提升效率。## 五、评估与优化查询理解与重写的效果需要通过检索评估来衡量。常用指标包括-RecallK相关文档在前 K 个结果中的比例-MRRMean Reciprocal Rank第一个相关文档排名的倒数平均值-NDCG考虑排序位置的加权指标-答案准确率最终生成答案是否正确优化方法包括A/B 测试不同的重写策略、收集用户反馈、构建查询改写评估数据集、持续微调检索模型和重写模型。## 六、工程实践建议第一建立查询分析中间件。在 RAG 系统中查询理解与重写应该作为一个独立的模块存在而不是硬编码在检索逻辑中。这样可以灵活迭代不同策略。第二缓存常见查询。对于高频查询可以预先计算最优重写和检索结果降低延迟和成本。第三保持可解释性。记录每次查询重写的中间结果方便排查为什么检索失败。第四结合业务知识。通用的查询重写模型不一定适合垂直领域需要根据业务场景构建领域特定的词典和规则。## 七、总结查询理解与重写是 RAG 系统中承上启下的关键环节。它连接用户原始需求与底层知识库决定了检索能否命中真正相关的信息。随着多轮对话、多模态检索和动态知识库的发展查询理解技术将变得更加重要也将成为 RAG 系统差异化的核心来源。