为什么CC、Codex放弃RAG,选用Grep?

📅 2026/7/15 1:38:45
为什么CC、Codex放弃RAG,选用Grep?
去年那会儿 RAG 好像还是版本答案我身边的每个解决方案架构师在跟客户聊的时候都是言必谈 RAG好像不用这个就赶不上这波 AI 热潮。但 Claude Code 却一反常态放弃了用 RAG 的方式改用了 50 年前就开始流行的 Grep完全跟潮流背道而驰。这对于一直吹嘘 AI 新范式的新贵们而言非常不寻常于是我想也许可以去探究一下这背后的原因。12025 年 5 月Anthropic 工程师 Boris Cherny 在一次播客中透露Claude Code 早期使用了 RAG检索增强生成 本地向量数据库的方案团队花了几个月时间验证最终结论是全部砍掉换成 grep。他是这么说的Early versions of Claude Code used RAG a local vector database, but we found pretty quickly that agentic search generally works better. It outperformed everything, by a lot.注意措辞大幅碾压所有方案。我现在常用的 Codex 实际上也是这样的逻辑不建索引、不用 embedding、不用 RAG。Cursor 虽然是走 RAG 起家的但 3 月份他们泄露的 Agent System Prompt 里面也写着grep_search is your MAIN exploration toolRAG 只在概念性查询时作为补充。不同的 case 得出了同样的结论在代码搜索场景下Agent grep RAG 向量数据库。2RAG 全称 Retrieval-Augmented Generation检索增强生成工作流程是预处理阶段把文档/代码切成若干片段chunk用 embedding 模型把每段转换成一个高维向量通常 768 维或 1536 维浮点数数组存入向量数据库检索阶段用户提问时把问题也转成向量在向量空间中用余弦相似度找距离最近的文档片段生成阶段把检索到的片段喂给大模型让模型基于这些片段回答逻辑很好理解大模型不可能一次读完所有文档上下文窗口有限那就先筛一遍只把最相关的给它看。grep 诞生于 1974 年原理极其简单输入一个关键词/正则表达式grep 从第一行扫到最后一行把所有匹配的行列出来。不用理解也没有语义纯粹的字符串匹配。问题来了为什么 50 年前的技术能在但凡能讲新范式就绝口不提老概念的 AI 圈打败看起来是版本答案的顶流技术3原因一代码是精确匹配场景代码和自然语言有本质区别。自然语言中如何配置用户登录和authentication setup guide说的是同一件事但字面完全不同——这是 embedding 存在的核心价值。但代码里变量名就是含义本身。你要找 handleUserLogin 这个函数直接搜 handleUserLogin 就行了。不存在语义相近但名字不同的情况。程序员已经把语义编码在标识符里了。研究数据支撑在 LongMemEval 的 116 个代码搜索问题上grep 的平均准确率显著高于向量检索且这个结论在 Claude Code、Codex CLI、Gemini CLI 三个框架上都稳定复现。原因二向量检索有结构性失败模式实际案例用户搜如何导出个人银行流水用于贷款审核embedding 返回长江流域水文站每月发布河岸流水监测报告——因为银行流水和河岸流水在向量空间里距离很近。余弦相似度 0.82看起来相关实际是垃圾。代码场景user_id 在 auth 模块和 logging 模块里语义完全一样作用完全不同。embedding 无法区分。向量相似度搜索不能实现’找出最相关的信息’这个目标这是 RAG 在生产环境中失败的根本原因。grep 不会犯这种错。grep 要么找到精确匹配要么告诉你没找到。它的失败模式是确定性的有就有没有就没有不存在答非所问的幻觉。原因三RAG 在代码场景有五个工程级问题索引永远追不上代码变化代码库是活的有人 merge 了 PR索引就过期了。重新索引大型项目要几十分钟到几小时。grep 搜到的永远是实时的。chunk 切分破坏代码结构RAG 的切分通常按 token 数暴力切割把一个函数切成两半是常有的事。embedding 压缩丢信息把 validateUserSession(token, refreshToken) 压成 1536 维向量信息密度和把用户登录验证四个字压成同维度的向量完全不同。代码的语义更精确embedding 的信息损失更严重。语义相似≠代码相关同一个变量在不同模块里作用完全不同embedding 无法区分上下文。流水线复杂度RAG 需要代码解析→chunk 切分→embedding 生成→向量存储→查询→排序每个环节都可能出问题。grep 一行命令搞定。4得益于 Claude Code 不久前的那次开源大家对它的设计都有了源码级的了解。它实现的是一套 Agent 驱动的多轮迭代搜索系统LLM 收到用户问题后自主决定搜索策略调用 grep 搜关键词 → 读取结果 → 判断是否足够不够的话调整关键词再搜一轮或者用 glob 找到文件路径 → 读取文件内容 → 发现新线索 → 继续搜索整个过程没有向量、没有 embedding、没有索引、没有预处理。每次从零开始。但它不是盲目搜索它每一轮的搜索关键词都是基于上一轮结果动态调整的。这跟人类程序员探索新代码库的方式一模一样看目录结构 → grep 函数名 → 读关键文件 → 追踪调用链 → 再 grep。工具设计上精细度做得很好因此成本控制也很理想GrepTool三种输出模式文件名/内容/计数head_limit 参数控制返回量防止 context 爆炸GlobTool按文件名模式匹配快速定位目标文件FileReadTool按行范围读取精确控制 token 消耗5这里我也学习到了一些技术趋势总结分享给大家。趋势一从预处理型架构到实时型架构预处理型的核心逻辑是提前把数据处理好用户来了直接查。好处是检索快但维护成本高、有过期风险、筛选逻辑固化。实时型的核心逻辑是不做预处理每次让 Agent 实时获取和判断。优势是零维护、零配置、永远最新劣势是比较依赖模型推理能力。这中间发生临界转变的节点在于上下文窗口大幅提升了以前不能做到的塞爆模型上下文窗口的动作可以做到了那么瓶颈自然不再是检索而 AI 也有了足够的推理能力去解决这个问题。趋势二Agent 驱动的主动检索取代被动预检索传统 RAG 是一次性被动检索把问题向量化 → 查 top-K → 喂给模型。就像你去图书馆馆员替你选好 5 本书放桌上你只能从这 5 本里找答案。Agentic Search 是多轮主动检索模型自己决定找什么、怎么找、找到后要不要继续找。就像你自己走进图书馆先看索引卡→找到一本→翻了几页发现线索→再去找另一本→直到找到答案。这背后核心的决定逻辑还是模型能力的持续增长。趋势三The Bitter Lesson苦涩的教训又一次验证了Rich Sutton 在 2019 年发表的《The Bitter Lesson》是 AI 领域最有影响力的文章之一据传 OpenAI 员工每天早上朗读。核心论点只有一句话70 年 AI 研究的最大教训是利用计算能力的通用方法最终总是最有效的而且优势非常明显。历史反复证明这个规律Boris Cherny 明确引用了 Bitter Lesson 来解释 Claude Code 的设计哲学一切都是模型。随着模型变得更好它会吸纳一切其他东西。与其花精力构建复杂的检索工程不如押注模型能力的提升。趋势四确定性工具在 AI 时代更有价值AI 时代最稀缺的东西是确定性。grep 给的是确定性承诺搜 processPayment 就是精确匹配这个字符串。找到了就是找到了没找到就是没有。失败原因只有一种搜索词不对。向量检索给你的是概率性结果余弦相似度 0.82可能相关。找到了不一定对银行流水 vs 河岸流水没找到不一定没有可能是 embedding 质量问题。失败原因可能是 embedding 模型、语义偏差、chunk 切分策略、索引过期、维度设置——调试是噩梦。当一个 AI Agent 要做 20 轮迭代搜索时每一轮的可靠性会累加。如果单次搜索 99%可靠20 轮后是 0.99²⁰82%。如果单次 95%可靠20 轮后是 0.95²⁰36%。确定性工具的可靠性是 100%给定关键词结果完全确定。概率性工具的可靠性永远 100%。在多轮迭代的 Agent 架构下这个差距将被指数级放大。当然grep 不是银弹它有自己明确适用的场景RAG 也不是一无是处只是恰好在代码搜索这个场景下grep 比 RAG 更适合。AI 时代够用就好的思维可能会是一种更为高阶的认知能力。学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】