06-知识库与RAG实战

📅 2026/7/22 11:17:31
06-知识库与RAG实战
Dify 知识库与 RAG 实战适用版本Dify Community Editionv1.16.0面向读者零基础想让 AI 基于「自己的资料」回答阅读时长约 25 分钟前置04-核心概念与基础使用.md、05-工作流编排.md目标上传文档、完成索引、挂到应用做出「不会胡说」的问答机器人。1. 为什么需要知识库RAG大模型只知道「训练时学到的东西」不知道你公司昨天的制度、你产品的说明书。如果直接问它会编造行话叫「幻觉 / Hallucination」。解决办法是RAG检索增强生成用户问题 ──▶ 把问题变向量 ──▶ 在知识库找最相关片段 ──▶ 连同问题一起喂给 LLM ──▶ 基于资料作答 回顾 01-产品介绍.md 第 5 节的「向量化」名词解释本篇就是把它落地。2. 创建知识库6 步第 1 步进入知识库左侧「 知识库」→「 创建知识库」。第 2 步选择数据源支持本地文件PDF、DOCX、TXT、MD、HTML、CSV、Excel含图片v1.15 支持提取 Excel 内嵌图片网页 / 在线文档粘贴 URL 抓取Notion / 飞书等通过连接器导入 零基础先从「上传一个 PDF / Word 文档」开始。第 3 步选「切分策略Chunking」⭐ 关键策略适合说明通用General大多数文档按段落/句子自动切简单好用父子Parent-Child长文档、手册先切大块父再切小块子检索回答时回退到大块上下文更完整问答对QAFAQ、客服手册直接把「问题-答案」成对存检索最准 不知道选哪个先用通用文档很长且问答容易断章取义用父子本身就是问答集用问答对。第 4 步选 Embedding 模型把文字变成向量的模型。国内可访问选项通义千问 / 百炼的 embedding 模型如text-embedding-v3本地 Ollama的bge-m3、nomic-embed-text等DeepSeek 官方暂未开放 embedding可用 SiliconFlow 的BAAI/bge-m3等⚠️Embedding 模型一旦选定建库后面改起来成本高建议一开始就用质量好的如百炼text-embedding-v3或bge-m3。第 5 步选「检索设置」检索方式向量检索 / 全文检索 /混合检索推荐更准重排Rerank开启后如 Cohere / Jina / BGE Reranker会对候选结果再排序显著提升精准度可选质量优先时开第 6 步开始索引等待完成点「保存并处理」平台开始清洗 → 切片 → 向量化。状态从「索引中」变「已索引」即可用。⏱ 文档越大越慢。v1.9 LTS 起支持把 embedding 任务分到独立 Celery 队列的专用 worker处理大文档不再卡住见 02 篇 的 Helm 说明自部署一般无需操心。3. 把知识库挂到应用Chatbot 示例打开你之前建的「制度问答小助手」→ Studio。左侧「上下文 / 知识库」→「添加」→ 选刚建的知识库。在提示词里加一句请优先根据提供的知识库内容回答找不到时如实说明。预览测试年假怎么算—— 此时 AI 应基于你的文档作答而不是瞎编。✅ 能「引经据典」地回答说明 RAG 生效了4. 在工作流里用「知识检索」节点05-工作流编排.md 里提到的「知识检索」节点就是在这里建好的库。把它拖进工作流、选库、连到 LLM 节点即可实现「先检索后回答」。5. 效果调优回答不准怎么办问题调优手段答非所问改成混合检索开启重排 Rerank回答太啰嗦/太短在提示词限制输出长度调整「召回数量 TopK」找不到关键信息改用父子切分检查文档是否成功索引看文档数引用了错误文档提高相似度阈值过滤不相关片段清理知识库噪声中文效果差Embedding 换中文更强的text-embedding-v3/bge-m3 核心可调参数一般在知识库「检索设置 / 应用上下文设置」里TopK每次取前几段如 3–5相似度阈值低于此分数不采纳如 0.5检索方式向量 / 全文 / 混合6. 维护知识库的最佳实践小步快跑文档别一股脑全扔按主题建多个库方便管理和复用。定期更新制度改了重新上传对应文档或更新片段。去噪删掉页眉页脚、无关广告索引质量更高。版本意识同一知识库别反复用不同 Embedding 模型避免语义空间混乱。7. 名词速查本篇词意思RAG检索增强生成让 AI 基于资料回答切分 Chunking把长文档切成小段以便检索Embedding把文字变成向量的模型重排 Rerank对检索结果再排序提升精度TopK每次取最相关的 K 个片段8. 动手练习准备一份你自己的文档制度/手册/笔记 PDF 或 Word。按第 2 节建知识库先用「通用」切分 混合检索。挂到 Chatbot问一个只有文档里才有的问题验证 AI 能基于资料回答。挑战换「父子」切分再测一次对比回答质量差异。完成后进入 07-使用案例集.md把前面学的全用上做 6 个真实项目。下一步07-使用案例集.md —— 6 个可复刻案例直接照着做。