引言RAG检索增强生成是企业AI应用的基础但很多企业的RAG系统都面临同样的问题召回率低想找的找不到准确率差找到的不对答案质量不稳定优化无从下手极智词元在优化数百家企业RAG系统的过程中总结了一套从60分到95分的优化方法论。一、RAG系统优化的核心指标指标说明60分80分95分Top-5召回率检索相关文档的比例60%80%95%Top-1准确率第一个结果正确的比例60%80%90%答案质量评分用户对答案的满意度60分80分90分二、优化路线图60→80→95分60分基础可用 ↓ 优化1-4 80分良好可用 ↓ 优化5-8 95分优秀生产级三、优化1文档预处理优化基础中的基础问题现象文档格式混乱解析效果差噪音多广告、页眉页脚结构不清晰优化方案fromlangchain.document_loadersimport(PyPDFLoader,Docx2txtLoader,TextLoader)fromlangchain.text_splitterimportRecursiveCharacterTextSplitterimportredefclean_text(text):# 去除多余空格和换行textre.sub(r\s, ,text)# 去除URLtextre.sub(rhttp\S,,text)# 去除特殊符号textre.sub(r[^\w\s\u4e00-\u9fa5],,text)returntext.strip()defload_and_clean_document(file_path):# 加载文档iffile_path.endswith(.pdf):loaderPyPDFLoader(file_path)eliffile_path.endswith(.docx):loaderDocx2txtLoader(file_path)else:loaderTextLoader(file_path,encodingutf-8)documentsloader.load()# 清理文本fordocindocuments:doc.page_contentclean_text(doc.page_content)returndocuments效果提升准确率提升10%答案质量提升5分四、优化2分块策略优化不是越大越好问题现象分块太小上下文不足分块太大检索不精准优化方案text_splitterRecursiveCharacterTextSplitter(chunk_size1000,# 中文推荐1000chunk_overlap200,# 推荐20%重叠separators[\n\n,\n,。,,, ,],length_functionlen)# 按层级分块策略# 小文档500# 中等文档1000# 长文档1500极智词元分块策略推荐文档类型chunk_sizechunk_overlapFAQ300-50050-100手册800-1200150-200长文档1200-1800200-300效果提升召回率提升8%准确率提升5%五、优化3向量化模型选择合适的才是最好的问题现象用了通用向量化模型中文效果不好没有针对领域优化极智词元推荐模型对比模型语言维度特点中文得分OpenAda中英1536通用质量高90分Qwen-Embedding中英1536阿里中文好92分BGE中英1024智源中文好90分优化方案fromlangchain.embeddingsimportHuggingFaceEmbeddings# 中文场景推荐 Qwen-EmbeddingembeddingsHuggingFaceEmbeddings(model_nameQwen/Qwen-Embedding)效果提升召回率提升10%准确率提升8%六、优化4混合检索语义关键词不再纠结问题现象只用语义检索对精确匹配不好只用关键词检索不理解语义优化方案极智词元混合检索用户提问 │ ├──────────────┐ │ │ ▼ ▼ 语义检索 关键词检索 │ │ └──────┬───────┘ │ ▼ 结果融合Rerank │ ▼ 返回Top-K文档代码示例fromlangchain.retrieversimportEnsembleRetrieverfromlangchain.vectorstoresimportChroma# 语义检索semantic_retrieverChroma(embedding_functionembeddings,...).as_retriever()# 关键词检索BM25keyword_retrieverBM25Retriever.from_documents(...)# 混合检索ensemble_retrieverEnsembleRetriever(retrievers[semantic_retriever,keyword_retriever],weights[0.6,0.4]# 可调)效果提升召回率提升15%准确率提升10%七、优化5重排序Rerank从60→80分关键一步问题现象检索结果有相关文档但排名靠后需要把相关文档往上排优化方案fromsentence_transformersimportCrossEncoder# 重排序模型cross_encoderCrossEncoder(BAAI/bge-reranker-large)defrerank_results(query,docs,top_k5):pairs[[query,doc.page_content]fordocindocs]scorescross_encoder.predict(pairs)# 排序scored_docssorted(zip(docs,scores),keylambdax:x[1],reverseTrue)return[docfordoc,scoreinscored_docs[:top_k]]极智词元推荐模型对比模型特点推荐场景BGE-Reranker智源中文好中文通用Qwen-Reranker阿里中文好企业场景效果提升召回率提升10%准确率提升15%八、优化6查询扩展Query Expansion问题现象用户提问太短语义不明确同一个问题不同问法优化方案fromlangchain.llmsimportOpenAIfromlangchain.promptsimportPromptTemplate template请把用户问题扩展成更详细、更完整的查询。 用户问题{question} 扩展后的查询promptPromptTemplate(input_variables[question],templatetemplate)defexpand_query(question,llm):expandedllm(prompt.format(questionquestion))returnexpanded效果提升召回率提升8%准确率提升5%九、优化7提示词工程Prompt Engineering问题现象提示词太简单模型不知道怎么回答提示词太冗余浪费词元优化方案极智词元提示词模板template你是极智词元的智能助手。请根据以下上下文回答用户问题。 上下文 {context} 用户问题{question} 要求 1. 仅基于上下文回答 2. 如果上下文没有说我不太确定 3. 回答简洁说重点 4. 如有需要可以引用文档来源 回答效果提升答案质量提升15分十、优化8元数据过滤Metadata Filter问题现象检索结果不区分来源有些来源可能不相关优化方案# 在分块时添加元数据fordocindocuments:doc.metadata{source:doc.metadata[source],category:操作手册,department:技术部,date:2026-06}# 检索时过滤retrievervectorstore.as_retriever(search_kwargs{filter:{category:操作手册}})效果提升准确率提升8%十一、优化9-10缓存优化与反馈闭环从80→95分优化9缓存优化fromlangchain.cacheimportInMemoryCachefromlangchain.llmsimportOpenAI langchain.llm_cacheInMemoryCache()# 缓存命中二次调用直接返回优化10反馈闭环用户反馈好/不好/更准/相关 ↓ 分析反馈 ↓ 优化检索策略 ↓ 持续迭代十二、实战案例某企业RAG系统优化背景RAG上线3个月用户不满意初始指标召回率60%准确率60%极智词元优化方案文档预处理分块策略优化向量化模型Qwen-Embedding混合检索重排序Rerank提示词优化反馈闭环效果数据指标优化前优化后Top-5召回率60%95%Top-1准确率60%90%答案质量评分60分92分总结极智词元RAG系统优化10招优化项预期提升难度文档预处理准确率10%⭐分块策略优化召回率8%⭐向量化模型召回率10%⭐混合检索召回率15%⭐⭐重排序Rerank准确率15%⭐⭐查询扩展召回率8%⭐⭐提示词工程答案质量15分⭐⭐元数据过滤准确率8%⭐⭐缓存优化速度50%⭐反馈闭环持续优化⭐⭐极智词元让您的RAG系统从60分到95分作者Mia极智词元首席技术官兼首席创意官专注于企业级RAG系统优化