Karpathy重磅论文拆解:从上下文工程到 AI Agent DAG

📅 2026/7/30 1:41:07
Karpathy重磅论文拆解:从上下文工程到 AI Agent DAG
Karpathy最近丢出了一份 9 页的 PDF 文档详细阐述了从Context Engineering上下文工程 到 Agent DAG智能体有向无环图 的演进路径。核心观点极其犀利“别再只盯着模型本身了真正的胜负手在于架构。”他做了一个疯狂的实验把自己的一个已经手搓优化过的代码库nanochat丢给 AI Agent让它自己跑。结果如何2天时间跑了 700次 实验发现了4个连 Karpathy 本人都没注意到的代码 Bug将模型训练速度从 2.02 小时压缩到了1.80 小时提升 11%。这个仓库发布仅 4 个月狂揽 90,900 颗 Star。Karpathy 认为Prompt Engineering 已经过时了现在的核心是Context Engineering上下文工程。如果把 LLM 比作 CPU上下文窗口就是内存RAM。以前的做法是每次对话都重新加载信息而现在的做法是建立一个死循环Agent 修改代码运行测试固定预算比如 5 分钟如果分数变高Git 提交如果分数变低Git 回滚。这就是著名的Ratchet棘轮机制——只进不退。Karpathy 在文档中给出了非常具体的工程化路径。如果你想让你的 Agent 从聊天机器人进化为autonomous researcher自主研究员请严格按以下步骤执行第一步寻找单一评分指标没有评分器就没有循环。你需要找一个能用一个数字自动衡量的任务。错误示范“帮我优化这段代码让它更好。”太主观正确示范“运行测试套件目标是让执行时间低于 100ms。”单一数字自动判定第二步物理隔离“评分文件”这是最关键的一步防止 Agent “作弊”。不可变文件存放数据准备和评分逻辑。Agent 绝对不能触碰这个文件否则它会为了高分而修改评分标准。可编辑文件这是 Agent 的“游乐场”它只能修改这里的代码。第三步锁定“时间预算”给每次尝试设定固定的时间比如 5 分钟。为什么只有时间固定不同尝试之间的分数才具有可比性。如果一次跑 1 分钟一次跑 1 小时分数就没有意义了。第四步注入“永不暂停”指令在program.md给 Agent 的指令文件中必须写入这句咒语NEVER STOP: 不要问人类是否继续不要问是不是好的停止点。除非被手动中断否则一直工作。如果没有思路了就去读论文、读代码尝试更激进的架构修改。大多数 Agent 失败的原因就是太“礼貌”了总是停下来问“还要继续吗”。你要的是机器不是客服。第五步睡眠时运行醒来读 Diff让它在晚上跑。第二天早上不要看 Agent 生成的“总结小作文”那是生成的文本可能撒谎直接看 Git Diff。 代码改了什么就是什么。第六步从“单循环”到“DAG”当一个 Agent 跑通后再引入第二个 Agent。注意必须给每个 Agent 分配独立的 Git Worktree工作树。如果它们共用一个文件夹会互相覆盖代码导致灾难。 最终你会形成一个Agent DAG有向无环图——就像一个没有分支、没有 PR、没有合并冲突的 GitHub只有不断生长的代码 lineage血统。Karpathy 的这份文档传达了一个明确的信号AI 的竞争焦点已经从模型大小转移到了系统架构。不要试图去训练一个更聪明的模型而是去构建一个更聪明的循环。学习资源推荐如果你想更深入地学习大模型以下是一些非常有价值的学习资源这些资源将帮助你从不同角度学习大模型提升你的实践能力。一、全套AGI大模型学习路线AI大模型时代的学习之旅从基础到前沿掌握人工智能的核心技能​因篇幅有限仅展示部分资料需要点击文章最下方名片即可前往获取二、640套AI大模型报告合集这套包含640份报告的合集涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师还是对AI大模型感兴趣的爱好者这套报告合集都将为您提供宝贵的信息和启示​因篇幅有限仅展示部分资料需要点击文章最下方名片即可前往获取三、AI大模型经典PDF籍随着人工智能技术的飞速发展AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型如GPT-3、BERT、XLNet等以其强大的语言理解和生成能力正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。因篇幅有限仅展示部分资料需要点击文章最下方名片即可前往获取四、AI大模型商业化落地方案作为普通人入局大模型时代需要持续学习和实践不断提高自己的技能和认知水平同时也需要有责任感和伦理意识为人工智能的健康发展贡献力量。