从简单 RAG 到本体论,我用两年时间踩完 AI 知识库的所有坑 📅 2026/8/13 8:38:31 下来后收到了很多同学关于该知识的进一步咨询这从侧面说明一个问题很多企业发现传统的 RAG 技术真的不够用了他们正逐渐迈入深水区只不过摸着石头过河的效果确实不太好啦。今天我就基于自己的理解帮大家顺一顺这块内容这里几乎都是我之前实践的结果所以也只能代表我个人的视野和业务场景对于大家不同的意见我们可以多讨论。在做内容分享之前这里有几个问题大家思考下第一什么是员工蒸馏第二什么是 Agentic Workflow第三什么是 Agentic RAG员工蒸馏我们这里先说说员工蒸馏今年年初时候小龙虾热潮里大家最喜欢说的就算员工蒸馏。什么毛选.skill、什么张雪峰.skill、还有傅盛大佬龙虾员工大军《傅盛龙虾日记24 小时我用 AI 干了 6 个人三周的工作》对吧这里他们到底是在说个撒OpenClaw 到底解决了什么类型的问题、又遗留了什么类型的问题而为什么我们感到如此熟悉又陌生呢这里就不得不提到底什么是员工蒸馏了什么是员工蒸馏我认为是对个人乃至群体的某一段工作内容的 100% AI 化替代这就是员工蒸馏现阶段这也是很多 AI 原生的追求具体来说如何实现员工蒸馏呢答案是将员工关于某项工作任务的认知也就是我们常说的 KnowHow 形成 SOP 与数据。这里我们总结一下员工整理 将员工某一段 KnowHow 程序化而 KnowHow 又可以被拆解为 SOP/Workflow 和 Data。所以这里就会出现两个核心指标SOP复杂度或者叫Workflow复杂度x 数据复杂度数据量、数据结构我们这里来依次做下拆解。SOP 复杂度这里对SOP的描述不用非常复杂大家就按高中低来理解就行第一所谓低SOP就是个人流程几步就可以走完那种工作流。典型的场景是身份证、简历信息识别公众号文章生成.skill或者查询AI率的工具。这种SOP要形成往往问某个人就搞清楚了沟通成本比较低。第二是中SOP大家可以简单理解成两种单人SOP步数很长或者需要多人协作那种工作流。典型场景是HR招聘流程、销售线索分配流程一整套公众号文章编写发布流程。这种SOP收集整理难度会显著提升要么需要跟一个人聊很久或者需要跟多人反复沟通但整体来说复杂度依旧不难。第三是高SOP这个往往是非常复杂的流程了可能会形成回路步数呈网状结构会有回退步骤或者就是参与的人极多。这里典型场景就是我们之前做的电商企业全案业务AI化SOP了。而因为这种SOP会涉及多人、多部门整理起来的复杂度是最高的并且他的更新复杂度更高很多公司都很容易出现做好一套AI系统后由于组织结构变了导致系统无法使用而放弃的情况究其原因还就是SOP复杂度太高的原因所致。所以如果没有专门团队在维护这套系统这种公司往往是没办法用起来的这也是追求AI原生路上最容易发生的情况。数据复杂度然后就是数据复杂度了数据是行业 KnowHow 的经验数字化他是为了配合 SOP 而出现的行业里面处理数据这块的工作被称为数据工程数据工程的任务是用数据去理解或者解释真实的业务世界所以这块可能很难。我们按高中低无四个等级来划分第一是数据无也就是没有私有数据需求或者私有数据极少放到提示词中就完事了模型当前材料已经足够完成任务了。这里往往用最基本的提示词工程功底就能拿到不错的结果比如做翻译这种工作。这里也需要强调的是其实这里也不是不需要知识而是知识已经被内化进了模型我们在后续微调技术路径的时候会提到。第二是数据中这种开始需要调用私有数据了但往往数据量较小处理起来很简单。比如大家案例里面的历史考题和 RAG 都是这个复杂度的数据一般来说 RAG 就可以完全消化不需要对数据怎么做特殊处理。第三是数据高这个场景需要多数据源了比如做一个客户全景档案就需要从 CRM、投诉客服系统、付款系统等不同地方拉数据。这种东西构建复杂度也要高些可能会涉及各种SaaS系统混用。第四部分数据复杂度极高也就是今天会涉及的部分这个场景中数据之间是存在关联关系的可能会用到知识图谱这种技术维护、更新成本极高这个时候我们再从蒸馏的角度去填这个12象限他是这样的那么如何去更好的理解这一切呢我们最经典案例又来了这里会涉及到 Agentic Workflow 以及 知识库技术路径的几次迭代AI 项目推衍案例你本科时期是一名软件工程师硕博读的是法律专业毕业后从事律师工作并且偶尔会接点软件外包。现在你遇到了一个问题你平时一天能接待100名客户但现在每天有1000个客户需要处理其中多数都是很简单的情况需要你亲自处理的人不到100个所以该怎么办呢在AI之前这里唯一的策略就是加人比如加入律师助理或者实习律师但在AI时代解法逻辑变了。工作流AI我们首先来看你掌握的能力你具有工程能力你具备法律服务的KnowHow能够梳理清楚法律咨询需要的一套SOP/Workflow在这一步里面最困难的工作不是代码而是如何将自己的SOP/Workflow整理清楚一般人在这块是很难的。在你将SOP梳理清楚后很快做了一套针对法律咨询的AI客服出来它至少可以解决600个客户的问题因为多数客户咨询的都是一些简单问题或者只是希望获得一个初步判断比如我被公司辞退了可以要求多少赔偿我的租房合同还没到期现在想提前退租有什么需要注意的吗我收到了一份合作协议里面有几个条款看不懂能不能帮我看看可以看出这里没有什么额外的数据需求完全依赖模型内置知识就够了但是这里依旧出现了问题第一是你的AI客服偶尔会出现幻觉这会导致错误的法律建议第二是你的AI客服在某些场景下运行不好导致流程难以走下去比如在法律依据和处理方案推荐这里就喜欢引用一些已经失效的规定或者忽略不同地区的司法差异。如果这些问题解决了至少可以解决800人的问题第三是你的一些特有的案件研判知识乃至谈判、诉讼经验无法在AI客服中产生影响为了解决这些问题你开始有意识地整理独有数据以及错误数据于是形成了一套自己独立的小数据集整个产品进入第二阶段。PS这里整个推衍逻辑是共用的就算放到医疗、教育领域也是一样简单AI知识库这一步其实很简单你用了一些RAG技术将自己的简单数据集融入了原本的工作流里面。这里的目标是能用自己的知识干预流程、能用自己的知识干预解决方案、能用自己的知识降低模型幻觉。在这一步里面相对于工作流AI难点开始变多了首先是整理什么数据这个很难多数人搞不清楚什么数据是有用的其次数据倒是整理出来了它应该是个什么结构这个也很麻烦需要不断地试错最后就是用什么技术架构去承载这一切这里比纯工作流难的点在于SOP会被数据所影响只不过你要面对的场景较为简单、数据量也不大直接上最朴实的那套RAG就好很快就搞定了于是你可以很好地服务900个用户了真是可喜可贺到此为止执行的都是简单SOP根本没体现Agentic Workflow的能力。这里虽然用到了私有数据但更多的工作是简单检索其实很简单。但是问题又出现了你老婆是劳动法律师、你小舅子是知识产权律师、你小姨子是公司并购律师他们看你服务那么多客户于是也想要用这个时候该怎么办呢Agent平台于是乎我将自己的代码做了一层抽象将我的SOP与Data提炼了出来。这部分的代码没那么难我很快就形成了一套Agent框架或者叫Agent工厂。只要使用这套Agent平台就能很快地将自己的SOP和Data上传上去。这个东西对于我来说几乎没有难度因为它只需要工程能力不需要我具备各个法律领域的KnowHow更不需要特别的数据它只需要我留出SOP编排的界面以及Data上传的地方即可。在这里我沾沾自喜因为我还将编排做成了图形化小姨子他们自己想怎么拖就怎么拖但是马上问题就出现了小姨子他们并不开心因为他们看着那个编排SOP的界面就烦。他们首先不想梳理自己的SOP其次更不愿意去编排最后让他们去设置数据和SOP的交互几乎要了他们的命并且情况更糟糕了律所主任对我赚钱的事情很眼红他要让律所所有业务团队接入我的系统并让我搞定…于是没有办法我放弃了本来的律师工作被转到了律所的信息技术与知识管理部门每天拿着电脑帮各个业务团队的律师梳理SOP、整理数据并教他们如何使用系统。并且我在平台上加入了很多插件比如实时法律法规插件用于调取最新的法律法规也防止引用已经失效的条款比如类案检索插件比如接入一些最新的司法解释和裁判文书让整个平台的幻觉率降低……只不过做到后面我发现一个问题我们这个平台跟Coze长得有点像…但问题依旧存在各个业务团队的律师依旧没办法改动SOP也没办法处理最新的数据这些工作依旧要我协助完成这让我感到很无奈我这边真实案例就是之前一个兄弟他们是做客服的最后那个Workflow流程自己都维护不动了注意这里是产研人员都维护不动遑论没有基础的业务人员。这个也是很多我实际服务过的公司正在遭遇的问题Workflow是真的解决了问题但当Workflow变复杂后当团队Workflow数量变多后每改一个就很麻烦到这里各种工程问题就出现了当环境复杂度上升Workflow的成本曲线会很难看Agent化其实大家的诉求很简单第一是不想去整理SOP但如果非要整理这个他们可以克服第二是一定不想去编排SOP这对他们简直是一种折磨第三是数据处理这块几乎不可能学会所以在这个背景下我希望利用AI的能力提升Workflow的泛化能力。也就是在我积累了足够多的SOP后我希望用自然语言就能让AI生成符合要求的SOP而就算不满足也能用自然语言去调整、优化不需要再去拖那个蜘蛛网。于是乎我改了下程序框架引入了ReAct框架也就实现了一句话生成完整SOP的效果只不过问题又来了这次的问题有两点这家伙实现得不太稳定每次生成的SOP都不一样并且它是个黑盒就算出了问题我也不能改然后就是因为它是个黑盒本来我有些特别的SOP也无法注入进去这个就很难受了反正结果就是大家依旧不满意原因也就是上面说的两点第一不稳定第二不能干预不具备可观测性于是乎我陷入了两难。所以说他们需要Workflow但又不想维护Workflow那他们到底要不要Workflow呢OpenClaw时代他们当然是要Workflow的但他们不想去拖拽他们想用自然语言做表达。于是我在工程架构上做了很多尝试最终实现了一个叫Skills的技术可以让大家用自然语言在Markdown里面描述工作流。这里造成的结果就是程序中最重要的80%的业务被我几个Skills搞定了其他的部分直接使用Agentic Workflow的方式就好。对于那部分的稳定性我要求不高于是乎整个问题得到了解决大家都很高兴。只不过这里最后还遗留了一个最大的问题数据该如何处理这个数据该如何处理就是现在整个AI世界留下的最大工程课题了至此我们可以看出来Agentic Workflow是成立的但Agentic RAG我们还没看到。而上述的每个场景都属于员工蒸馏而且都是简单场景的员工蒸馏因为上述都不涉及图谱。那么什么是复杂的员工蒸馏呢这里就要涉及数据工程与图谱或者本体对应的技术范式了数据工程我们前面说了数字分身、员工蒸馏类项目最重要的就是KnowHow而KnowHow被分为了两个部分显性化的SOP结构化的数据而这里的难点就来了怎么保证SOP每一轮需要的数据被拿到换句话说如何让AI拿到他应得的知识说人话就是AI不仅要像我们一样去表达还必须像我们一样去思考如果AI不像我们那样去思考而得出的答案那我是不信的。要做到让AI像我们一样思考好好执行这套SOP这里的核心是如何组织数据数据组织的背后就是技术架构或者说技术路径。所以今天最核心、最重要、最本质的问题来了我们如果要实现一套管理数字分身或者说蒸馏我管理相关的知识我们这套SOP是什么样的对应的数据结构应该是什么样的这里先说SOP对应的技术路径也是我们之前探索出来最经典的技术路径顾问范式这套范式几乎可以解决80%复杂知识库的问题。至于什么是顾问范式、如何构建本体论今天的篇幅已经很多了我们下次再讨论...结语写到这里我想回应一个现象。最近确实有很多同行、客户在跟我聊本体论聊知识图谱聊实体关系建模聊如何用更精妙的结构去逼近真实世界的复杂性。大家的热情我能理解毕竟谁不想建一个一劳永逸的知识底座呢但我在生产线上摸爬滚打了几圈后真实的感受是本体论很好、知识图谱也很好但它解决的是理得清的问题而不是搞得定的问题。也就是说那部分知识确实能搞定问题但你的团队却未必能用那些知识去解决问题很多同学太小看本体论的复杂度了这里面有大量的管理问题要处理一旦进入生产环境你会发现画出几张实体关系图反而是整件事里最轻的一步。难点集中在后面几个环节。第一企业需要先把专业人员脑中的认知拿出来。大量 KnowHow 并没有写在文档里**专业人员很会处理问题却很难解释自己为什么这样处理。**你让他直接整理知识他交出来的通常是一堆资料、制度和案例很少有人能主动拆出实体、关系、状态、规则和适用边界。所以知识梳理本身就是一项管理工程。你需要通过访谈、案例复盘、异常追问和结果验证一点点把隐性认知逼出来还要让不同岗位的人持续配合。管理他们完成日常工作相对容易让他们长期、稳定、结构化地输出自己的认知难度会高很多并且这里面是存在大量“文化/专业冲突的”第二企业内部的知识经常存在冲突。本体论的第一步是统一业务世界的表达方式什么对象算同一个实体什么关系可以建立什么状态允许流转什么条件下规则生效。这个过程往往会触碰部门边界、责任归属和历史流程最后处理的已经不只是数据还包括组织内部对业务事实的共识。第三真实世界可以无限建模但项目预算和工程能力都是有限的。实体类型越多关系越复杂工程实现成本越高层级越深知识整理、检索和维护的难度越大。生产级 AI 项目需要持续平衡业务还原度与数据工程 ROI我实际做这类设计时会非常克制地控制实体数量、关系数量和知识层级。能够通过简单结构解决的问题就不会为了追求完整而引入复杂模型。因为本体设计的目标是支撑业务任务结构精妙只是手段甚至于结构越复杂工程复杂度越高处理起来就很难。第四知识被整理出来以后还要让 AI 用得上。这就回到了我前面反复强调的那句话如何让 AI 在每一轮都能拿到、拿对、拿全同时不拿多你需要明确每个 SOP 节点依赖哪些实体、关系和规则用户处于什么意图时应该进入哪条查询路径信息不足时应该追问什么关系链应该查询几层什么情况下停止推理什么情况下必须转交。所以知识结构必须与任务边界、SOP 和意图体系一起设计这里很多经验是真的做过的知道就知道不知道就是不知道不足为外人道也。第五本体和知识图谱还需要持续维护。组织结构会变产品会变业务规则会变专业人员对问题的理解也会变。今天正确的实体关系半年后可能已经不再适用。企业如果没有专门团队维护前期投入越大后期形成的历史包袱也可能越重。上述所有就是复杂 AI 项目很少能够顺利落地的原因。它同时涉及知识工程、数据工程、模型工程、管理工程和项目管理工程。你既要理解业务 KnowHow又要懂数据结构和模型特性还要有能力组织不同专业角色持续输出并在漫长、反复的建设周期中稳住团队。一般技术人员容易卡在业务抽象高管又很难长期沉入实体、关系、规则和生产数据的细节。最后大家都知道这件事很重要却始终缺少一个能够把业务、数据、技术和组织贯穿起来的一号位。在我做过的生产级 AI 项目里这个一号位必须亲自完成核心产品和架构设计。代码可以交给团队写但核心文档要接近伪代码的精度任务边界是什么实体如何定义关系如何流转每个节点调用什么知识拿不到怎么办拿错了怎么发现生产问题如何回流。文档写不到这个程度下面的产品和技术很难凭空把它实现出来这里再次强调相信我如果你文档写不清楚程序员一定做不清楚换什么AI都是一样所以当很多企业开始关注本体论和知识图谱时我知道他们已经开始遇到传统 RAG 的边界了。但知道应该构建本体只是走到了深水区入口。后面还要回答建什么、建多深、谁来整理、谁来维护、AI 如何调用以及这套系统能否在生产环境里持续运转。这些问题我这 2 年都做过也知道具体应该如何拆、如何设计、如何落地。但再往下就必须结合企业真实的业务流程、专业人员、数据现状和生产问题来判断了。而就是我这种做过几次的人在重新接触一个业务的时候也只有一句话这一次依旧很难…然后对 AI 深度学习感兴趣的可以点击**## 学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】