NUS ICML 2026新作:Agent记忆别再检索了,要「重建」!多跳推理暴涨23%,Token还降80%

📅 2026/7/17 21:57:05
NUS ICML 2026新作:Agent记忆别再检索了,要「重建」!多跳推理暴涨23%,Token还降80%
一个让人头疼的场景你和 AI 助手聊了三个月项目进度、会议安排、个人偏好、临时决策……对话越积越长某天你问它一句「 Caroline 在 Nate 参加电竞比赛那个月做了什么」这个问题看似简单实则要跨会话、跨人物、跨时间线做多跳推理——先找到 Nate 的比赛记录再锁定对应月份最后关联 Caroline 的活动。现有记忆增强 Agent 的主流做法是先检索再推理。用 embedding 相似度或知识图谱的固定 -hop 扩展一次性把 top- 记忆片段塞进上下文然后让 LLM 作答。问题在于检索方向在推理开始前就定死了。 中间发现的新线索没法反过来调整检索路径。结果就是——检索了一堆「电竞比赛」相关片段却漏掉了关键的「七月」这个时间锚点。被动检索只找到 Nate 的电竞比赛记录主动重建通过推理推断出「七月」这一时间线索进而定位 Caroline 的活动。认知神经科学的一个老结论回忆更像按线索一点点「拼」出来不是打开仓库把整段记忆原样读走。 新加坡国立大学 NUS 团队把这一洞见落地到了 LLM Agent 上论文已被ICML 2026接收。被动检索的两条死胡同现有记忆方案大概就两条路踩的坑各不一样。还是那个 Caroline 的问题相似度检索就像拿问句原话直接搜聊天记录——搜出来的全是 Nate 的比赛记录月份这条线索根本进不了候选集。第一类相似度检索 Similarity-based Retrieval 。 代表方法包括 MemoryBank 、 Mem0 等。检索策略可形式化为其中 是查询 是记忆单元s i m ( ⋅ , ⋅ ) \mathrm{sim}(\cdot,\cdot)sim(⋅,⋅)是固定的相似度函数。检索方向完全由查询决定推理过程中无法调整。第二类图结构检索 Graph-based Retrieval 。 代表方法包括 A-Mem 、 Zep 等。在相似度检索的基础上沿预定义的图结构做 -hop 邻居扩展图结构确实能捕捉实体间关系但扩展路径仍是预先固定的——无法根据中间证据动态剪枝或转向。被动检索左一次性选定记忆片段 MRAgent 的主动重建右在推理过程中多轮探索、剪枝、调整方向。MRAgent 的核心主张很直白检索应该跟着推理一起走——每发现一条新证据就改一次下一步要查什么别在动笔推理前就把记忆片段全部定死。MRAgent Cue-Tag-Content 关联记忆图MRAgent 的核心其实就两件事先把记忆建成一张能走的图再让 LLM 推理时真的在图上走。MRAgent 整体架构(a) 从对话中构建 Cue-Tag-Content 关联记忆图(b) 查询到来时 LLM 在图上执行主动记忆重建。Cue-Tag-Content 三层结构记忆被建模为异构图M ( C , V , R ) \mathcal{M} (\mathcal{C}, \mathcal{V}, \mathcal{R})M(C,V,R)■Cue 线索c ∈ C c \in \mathcal{C}c∈C细粒度关键词如实体名、属性、时间标记■Content 内容v ∈ V v \in \mathcal{V}v∈V具体记忆条目■Tag 标签连接 Cue 与 Content 的语义桥梁编码关联关系三者通过三元组( c , g , v ) ∈ R (c, g, v) \in \mathcal{R}(c,g,v)∈R相连。 Tag 的关键作用是在访问昂贵的 episodic 内容之前先提供语义导航——避免在大图上做无约束的 -hop 扩展导致组合爆炸。论文定义了两个映射算子支撑两阶段检索先通过 Cue 激活候选 Tag 再基于选定的 Tag 检索 Content——把关联推理和内容检索解耦让选择性访问在大规模图上变得可行。多粒度记忆层受人类记忆分层启发 MRAgent 把 Content 组织为三个功能层记忆层存储内容典型用途Episodic 情景特定时间点的具体事件时间推理、事件回溯Semantic 语义稳定的个人属性、偏好、事实跳过冗长历史直达目标知识Topic 主题跨多个 episode 的抽象模式自顶向下定位相关事件簇情景记忆沿统一时间线组织支持时间约束语义记忆通过 aspect-level Tag 锚定到实体线索主题层则提供 自顶向下的跳转先锁定主题再下钻到具体 episode 。记忆填充通过 LLM 蒸馏管道自动完成对话流被切分为 episode 单元 再由 LLM 提取 Tag 和 Cue 构建阶段保持轻量复杂的关系推理推迟到检索阶段按需执行——这是后续 Token 效率优势的重要来源。主动重建推理与检索融为一体MRAgent 把记忆访问形式化为主动重建过程维护显式重建状态■Z ( t ) \mathcal{Z}^{(t)}Z(t)活跃集包含当前步骤待探索的 Cue 、 Tag 、 Content 候选■H ( t ) \mathcal{H}^{(t)}H(t)重建上下文前几步累积的证据给定查询后 Agent 先提取细粒度 Cue 并匹配存储线索初始化S ( 0 ) ( Z ( 0 ) , ∅ ) \mathcal{S}^{(0)} (\mathcal{Z}^{(0)}, \varnothing)S(0)(Z(0),∅)然后进入迭代循环。主动记忆重建算法每轮由 LLM 选择遍历动作、执行图遍历、路由剪枝、更新状态直到证据充分或探索收益递减。三类遍历动作遍历动作集A Π _ 1 , … , Π _ m \mathcal{A}{\Pi\_1,\ldots,\Pi\_m}AΠ_1,…,Π_m包含前向和反向两类前向遍历——沿 Cue→Tag→Content 方向扩展反向遍历——从已检索的 Content 反向激活新的 Cue 和 Tag 根据中间证据调整探索方向每轮三步走1.LLM 推理与动作选择基于查询 、累积上下文H ( t ) \mathcal{H}^{(t)}H(t)和活跃集Z ( t ) \mathcal{Z}^{(t)}Z(t)选择本轮遍历动作A ( t ) ⊆ A \mathcal{A}^{(t)} \subseteq \mathcal{A}A(t)⊆A2.受控图遍历执行选定动作生成候选节点集Z ~ ( t 1 ) \widetilde{\mathcal{Z}}^{(t1)}Z(t1)由 LLM 选择的方向引导避免穷举扩展3.LLM 路由与状态更新评估语义关联剪枝无关分支更新活跃集和重建上下文循环持续直到 LLM 判定证据充分或进一步探索不太可能带来新信息。理论保证主动检索严格强于被动检索论文从近似理论角度给出了形式化证明。给定检索预算 定义两个假设类■H L M _ p a s s i v e ( T ) \mathcal{H}^{\mathrm{LM}}\_{\mathrm{passive}}(T)HLM_passive(T) LM 在推理前固定 次非自适应检索所能实现的预测器集合■H L M _ a c t i v e ( T ) \mathcal{H}^{\mathrm{LM}}\_{\mathrm{active}}(T)HLM_active(T) LM 可做 次自适应检索所能实现的预测器集合定理主动检索严格强于被动检索对任意 直觉上主动检索能学到被动检索能学的任何函数反之则不成立。这里给出的是表达能力上的严格分离远超普通工程 trick 。人类记忆重建过程与 MRAgent 架构的功能对应关系线索触发→关联传播→渐进重建。实验结果性能与效率双杀基准与设置在两个长程记忆 benchmark 上评估■LoCoMo长对话记忆理解覆盖 multi-hop 、 temporal 、 open-domain 、 single-hop 四类问题■LongMemEval跨多 session 的长期记忆评估基线包括 RAG 、 LangMem 、 A-Mem 、 MemoryOS 、 Mem0 。骨干模型用 Gemini-2.5-Flash 和 Claude-Sonnet-4.5 评估指标为 F1 和 LLM-Judge J 。LoCoMo 主结果Claude 骨干下 MRAgent 在四类问题上全面领先问题类型最强基线 JMRAgent J提升Multi-hop75.88 (Mem0)90.1918.9%Temporal80.68 (LangMem)85.345.8%Open Domain56.25 (Mem0)71.5727.2%Single hop83.12 (LangMem)91.109.6%Overall78.61 (LangMem)88.3212.4%Gemini 骨干下更夸张——Overall J 从 Mem0 的 68.31 跳到 84.21 相对提升 23.3%。 Multi-hop 的 J 得分达到 75.17 Mem0 为 68.79 Temporal 从 61.68 飙到 80.37 。Multi-hop 和 Temporal 恰恰是被动检索最吃力的题型——需要跨片段拼接证据、对齐时间线。 MRAgent 的多轮重建机制在这些场景优势最大。LongMemEval 主结果设置最强基线 JMRAgent JMulti-Session56.39 (MemoryOS)68.42Single-Session90.00 (A-Mem)92.85Temporal45.71 (LangMem)68.42Preference46.67 (MemoryOS)66.67Overall54.92 (MemoryOS)72.95相对最强基线提升 32%。换 Claude 做检索后 MRAgent* Overall J 进一步到 86.76 。Token 与运行时效率碾压LongMemEval 上每样本总 Token 消耗含构建检索方法Token 消耗运行时(s)A-Mem632k1,122MemoryOS273k3,136LangMem3,268k1,210Mem0245k533MRAgent118k586MRAgent 的 Token 消耗仅118k——不到 A-Mem 的 1/5 不到 LangMem 的 1/27 。运行时 586s 与最快的 Mem0 533s 基本持平。换个算账方式如果你的 Agent 按 Claude/Gemini 按 Token 计费同样预算下 MRAgent 能多跑 4–5 轮重建对客服 Bot 、个人助手这类长对话产品这直接决定能不能在 SLA 内完成 multi-hop 推理。效率来源构建阶段保持轻量复杂关系推理推迟到检索阶段按需执行 Tag 在访问昂贵 episodic 内容前提供语义导航提前剪枝无关路径。消融实验每个组件都有用LoCoMo multi-hop 消融实验 Claude 骨干对比 CE 、 CTE 、 CTC 三种记忆结构以及是否启用主动推理。论文对比三种记忆结构变体■CE Cue→Episode 直接索引最简结构■CTE Cue-Tag-Episode Tag 中介的情景检索■CTC Cue-Tag-Content 完整记忆结构含语义层消融把三层结构逐一拆掉最让我在意的一组对比是光有 CTC 图结构但关闭主动推理性能会明显回落——图建得再好不让 LLM 在上面走几步 multi-hop 照样拼不齐。多轮推理证据逐步累积LoCoMo 多轮推理分析 Claude 骨干(a) 各类问题的累积证据召回率(b) 平均收敛轮数与最大有效轮数。■Single-hop 和 Temporal 查询约 3 轮即达近满分召回■Multi-hop 查询迭代探索带来超过 30%的召回提升——这类题型的证据散落在多处不迭代几轮根本拼不齐■自主终止 Max Valid Turns 与 Average Turns 高度吻合 LLM 能有效判断何时继续搜索、何时停止避免冗余探索Multi-hop 性能随推理轮数 和每轮检索预算 的变化热力图 Claude 骨干。增加并行检索预算无法替代更深的重建深度。预算敏感性分析进一步表明加宽每轮检索的并行度替代不了加深推理轮数。记忆推理的本质是序列依赖的不是并行堆量就能解决的。案例研究五轮重建跨 session 证据多 session 查询的推理轨迹从 Cue 「 Joanna 」出发沿关联 Tag 遍历检索剧本投稿记录和语义背景再通过主题层对齐拒稿事件。查询「 Joanna 的哪些剧本被制片公司拒绝了」——这个问题要跨 session 对齐「投稿」和「拒稿」两类事件被动 top- 检索基本无解。MRAgent 的重建轨迹1.从 Cue 「 Joanna 」出发沿 Tag 检索其剧本投稿记录 episodic 2.获取剧本相关的语义背景信息 semantic 3.上探到主题层定位拒稿相关主题4.下钻回具体拒稿事件与先前检索的投稿记录对齐5.验证时间一致性输出最终答案五轮迭代、三种记忆层协同、前向反向遍历并用——案例图把整条推理链画得很清楚。读完这篇论文我脑子里转的几个念头Mem0 、 A-Mem 、 MemoryOS 这一代产品还在卷「怎么检索更准」。 MRAgent 换了个问法推理时怎么动态重建记忆我会把它看成范式切换——把「查记忆」写进推理循环里论文还给出了主动检索严格强于被动检索的形式化证明主动 ⊋ 被动不是空喊口号。Tag 这层设计尤其讨巧。纯向量检索太扁全量 -hop 图扩展又太重 Cue-Tag-Content 卡在中间——Tag 够轻能做快速语义路由又够结构化能撑 multi-hop 遍历。就算你不全盘照搬 MRAgent 这个 Tag 中介思路也值得拆出来单独试。效率数字容易被一眼扫过。 118k Token 对 632k 按 API 计费算下来同等预算能多跑好几轮重建。个人助手、客服 Agent 、长期项目管理——这些场景的对话越来越长 Token 账单和响应延迟是硬约束不是锦上添花。成绩分化也很有意思 Single-hop 从 83.12 到 91.10 涨得温和 Multi-hop 从 75.88 到 90.19 、 Temporal 从 80.68 到 85.34 跳幅大得多。说明痛点集中在「得先推理才知道该查什么」的题型——恰好是记忆 Agent 真正要打的仗。当然也有问号多轮 LLM 调用在极端低延迟场景能不能扛住构建阶段的 LLM 蒸馏一旦抽错 Tag 下游会不会一路带偏论文在 LoCoMo 和 LongMemEval 上证据充分生产环境的对话分布更脏更乱还得有人去踩坑。总结维度核心要点问题被动检索在 multi-hop / temporal 查询上失效方法Cue-Tag-Content 图 主动多轮重建理论主动检索表达能力严格强于被动检索性能LoCoMo 23% LongMemEval 32%效率Token 降至 118k A-Mem 的 1/5 代码已开源NUS 团队在 ICML 2026 的这篇工作标题就足够 provocative——Memory is Reconstructed, Not Retrieved。它把认知科学的记忆重建理论搬进了 LLM Agent 工程用图结构承载关联、用多轮推理驱动访问、用理论证明锚定范优势。对于正在构建长期记忆 Agent 的开发者 MRAgent 值得认真读一遍源码。学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】