核心能力:短期记忆(2026.8.16更新)

📅 2026/8/17 23:17:42
核心能力:短期记忆(2026.8.16更新)
核心能力:短期记忆概述记忆系统用于记录历史交互信息。对于AI智能体而言,记忆至关重要:它能够让智能体记住过往对话、从反馈中学习,并适应用户偏好。当智能体需要依托大量用户交互完成复杂任务时,记忆能力对运行效率与用户体验都不可或缺。短期记忆允许你的应用在**单个会话线程(conversation thread)**内保存历史交互记录。【说明】线程(thread)用于将一次会话内的多条交互信息归类管理,原理类似于邮件中将多条消息归集到同一个对话会话。对话历史是短期记忆最常见的形式。长对话会给当下的大语言模型带来难题:完整对话历史有可能超出模型上下文窗口上限,进而造成上下文信息丢失、调用报错。即便你选用的模型支持超长上下文长度,大多数大模型在超长上下文场景下表现依旧不佳:陈旧、无关的内容会分散模型注意力,同时带来响应变慢、调用成本上升等问题。对话模型通过**消息(messages)**接收上下文,消息包含指令(系统消息)与用户输入(人类消息)。在对话类应用中,人类输入与模型回复交替出现,形成持续变长的消息列表。由于上下文窗口存在限制,许多应用需要借助特定策略剔除“过时信息”,也就是让模型选择性“遗忘”内容。💡【提示】需要跨会话持久保存信息?使用长期记忆(long-term memory),在不同线程、不同会话之间存储并读取用户专属或应用级别的数据。参考文档:长期记忆