agent的记忆怎么设计

📅 2026/6/26 2:22:30
agent的记忆怎么设计
agent为什么需要记忆LLM本身是无状态的上下文窗口context有限每次推理调用都是成本有记忆能补充上下文依据这个记忆来整合推理而非每次都从新开始解决当前会话内的上下文连贯性跨会话的知识持久化对应短期记忆和长期记忆1、短期记忆的载体是LLM 的context window。包括在这次会话中用户的输入、工具调用和模型输出。如果对话边长整个的内容太多3种方式控制context上下文缩减对历史的信息做摘要或整合把细节丢掉换空间可能存在摘要的完整性和准确性问题上下文卸载把完整内容存到外部存储context留引用的ID需要时候再取把记忆内容放到另一个空间可能存在检索不准的问题上下文隔离多agent架构拆给子agent每个agent只有自己那部分精简指令主agent只收结果记忆也设计多agent?每个agent还要处理自己的prompt和记忆【Langchain摘要google ADK压缩窗口agentscope渐进压缩策略】