大模型的“外挂大脑” - RAG一、大语言模型的局限性幻觉 - 看似合理却错误的陈述模型知识只停留在训练截止日无法回答最新信息二、RAGretrieval-Augmented Generation检索增强生成是一种将信息检索 与 文本生成 相结合的技术架构允许大模型在回答问题时先从外部知识库中检索相关信息然后介于这些信息生成准确、可靠的回答。三、形态Graph RAGAgentic RAG四、RAG的局限性1、所需信息分散在多个块或文档中检索器难以获取完整上下文导致答案不准确或不完整。2、高度依赖分块和检索质量若检索到无关块则会引入噪声干扰LLM。如何有效整合可能矛盾的信息也是难题。五、索引数据收集 → 数据清洗1、索引流程 - 分块不按字数死切而是按语义完整性切分①按照段落边界切分②按章节标题切分③保持语义连贯性2、索引流程 - 向量化使用嵌入模型将文字转化为高维空间坐标通常是512-1024维3、索引流程 - 向量存储让索引想查字典一样块需要专门的向量数据库支持①亿级数据支持海量向量存储②毫秒级响应近实时检索速度六、RAG1、RAG完整流程2、召回技术的局限性①干扰过多久闻、过期信息广告无关片段②答非所问③逻辑断层3、重排技术提高质量4、打分维度相关性时效性权威性5、最终生成流程Prompt构建6、RAG文本分块①文档分割文档分割是RAG流程中“索引”阶段的关键环节。它将预处理后的长文本转换为更小的片段直接决定了检索的准确性召回率生成的质量信噪比。①文档级切分②段落级切分③句子级切分递归字符分割语义完整性优先语义分割高级分割策略7、RAG文本向量化它将处理后的文本或其它类型的信息转换为带有语义的向量。直接决定了检索的准确性生成的质量。①索引层的本质语义空间的桥梁连接原始知识与语义检索的桥梁。其核心任务是将文本通过Embedding Model转换为高位向量表示。文本 →Embedding Model →高维向量769 - 1024维②语义即距离在向量距离中语义相近的文本再几何空间中的欧式距离或余弦距离更近。③语义权重增强实现④实际应用中维度的权衡⑤落地场景总结8、GraphRAG原理解析传统RAG的工作原理传统痛点 VS GraphRAG优势构建知识图谱在GraphRAG中信息被抽取为实体节Entity节点间的连线构成关系Relationship并挂载丰富的属性Attribute形成LPG标签属性图RAG的核心是良好的文本预处理 符合业务场景分块 良好的召回与重排