Letta介绍和安装说明

📅 2026/8/25 21:35:54
Letta介绍和安装说明
Letta类别开源智能体框架 更新时间2026-071. 基础信息项目内容开发商/维护方Letta Inc.是否开源是开源协议Apache 2.0官方网站https://www.letta.comGitHub 地址https://github.com/letta-ai/letta核心语言PythonServer 提供 REST API定价模式框架与自托管免费开源官方托管云服务为商业产品适用人群需要长期记忆、长会话场景的 Agent 开发者与团队2. 核心设计思想Letta 起源于 MemGPT 研究项目把操作系统的虚拟内存管理思想引入 Agent上下文窗口被当作内存由框架自动管理分页、压缩与归档让 Agent 能够处理远超上下文窗口的长期对话与任务。这是开源智能体框架生态中唯一提供自动上下文压缩能力的框架填补了生态最大的能力缺口——长上下文管理。Letta 的核心是记忆优先记忆不是外部附加组件而是框架的一等公民。Agent 拥有层次化记忆核心记忆、工作记忆、归档记忆并能在运行时自主读取、编辑、整理自己的记忆self-editing memory跨会话保持身份与知识连续性。它采用自托管记忆层架构Letta Server 以独立服务形态持久化记忆与 Agent 状态模型只负责推理记忆由框架托管可独立于任何模型运行。与 LangGraph 的显式状态图、CrewAI 的角色协作相比Letta 的核心差异在于把记忆管理本身做成产品。3. 特性自动上下文压缩开源生态中独有长会话不爆上下文层次化记忆系统核心/工作/归档记忆 Blocks记忆自编辑工具Agent 运行时自主更新记忆自托管 Letta ServerREST API Python SDK多 Agent 共存于同一 Server各自独立记忆跨会话持久化PostgreSQL 存储多模型支持OpenAI、Anthropic、Gemini 及本地模型工具调用与 MCP 支持Web 控制台可视化记忆与对话“睡眠时间”sleep-time后台整理记忆机制支持自托管与官方托管云两种部署4. 典型模式长期记忆型助手私人助理、陪伴类对话跨天跨月记住用户偏好。记忆型客服跨会话记住客户历史与背景提升服务连贯性。记忆后端服务把 Letta Server 当作记忆组件供其他框架如 LangGraph调用。长文档/长任务 Agent自动压缩让 Agent 能处理超长输入。5. 关键对比维度LettaLangGraphCrewAI编排范式记忆驱动托管记忆层图状态机角色/任务协作生态规模较小社区在成长大社区丰富中模板多学习曲线中等需理解记忆机制高低-中最佳场景长会话、长期记忆复杂可控长流程团队分工模拟如果应用的核心矛盾是对话/任务跨越上下文窗口、需要持续记忆Letta 是开源生态中开箱即用的独特选择若编排复杂度高可考虑 Letta 与 LangGraph 混合架构。6. 优缺点优点自动上下文压缩能力在开源生态中独一无二记忆层可自托管、模型无关无锁定直击长运行 Agent 的痛点架构思路独特Apache 2.0 协议宽松缺点生态较小第三方教程与案例有限复杂多 Agent 编排能力弱于图框架需自建记忆机制有学习成本调优依赖经验项目演进较快接口可能变动7. 落地组合方案方案一LettaDocker 自托管 云模型或本地 LLM PostgreSQL用于客服、私人助理等长会话产品。步骤部署 Letta Server → 配置模型与记忆 Block → 通过 SDK 创建 Agent → 接入业务工具。方案二Letta 作为记忆后端 LangGraph 作为编排层各取所长适合既有复杂流程又需要长期记忆的企业级系统。8. 安装步骤方式一Docker 自托管 Letta Server推荐需先安装 Dockerdockerrun-d-p8283:8283-vletta_data:/app/letta letta/letta:latest方式二pip 安装后本地启动pipinstallletta letta server首次使用需配置模型与存储letta configure引导完成支持 OpenAI/Anthropic/Gemini/本地模型持久化默认 SQLite生产建议 PostgreSQL。验证letta--version9. 登录与模型配置Letta 开源自托管版本无账号登录letta configure引导配置模型支持 OpenAI、Anthropic、Gemini 及任意 OpenAI 兼容 API、本地 Ollama。官方托管云letta.com才需要注册账号订阅。9.1 自托管无账号直接配置模型开源形态无需注册登录Docker 或 pip 部署 Letta Server 后letta configure填写模型配置即可。记忆层由 Letta Server 自托管模型只负责推理切换厂商不影响已存记忆。9.2 方式一第三方厂商 API KeyOpenAI 兼容letta configure交互式填写或在配置文件中设置# DeepSeek深度求索exportOPENAI_API_KEYsk-xxxxxxxxexportOPENAI_BASE_URLhttps://api.deepseek.com/v1# GLM智谱清言OpenAI 兼容地址exportOPENAI_API_KEYxxxxxxxx.yyyyyyyyexportOPENAI_BASE_URLhttps://open.bigmodel.cn/api/paas/v4# Qwen阿里云百炼exportOPENAI_API_KEYsk-xxxxxxxxexportOPENAI_BASE_URLhttps://dashscope.aliyuncs.com/compatible-mode/v1letta configure中选择 “OpenAI” 兼容端点并填入 base_url 与模型名如deepseek-chat、glm-4.5、qwen-max即可。9.3 方式二Anthropic / Gemini# Anthropic ClaudeexportANTHROPIC_API_KEYsk-ant-xxxxxxxx# GeminiGoogle AI Studio 获取 KeyexportGEMINI_API_KEYAIzaxxxxxxxxletta configure中对应选择 Anthropic 或 Gemini 提供商填入 Key 与模型名如claude-sonnet-4-5、gemini-2.5-pro。9.4 方式三本地 Ollama完全离线ollama serveexportOPENAI_API_KEYollamaexportOPENAI_BASE_URLhttp://localhost:11434/v1letta configure中选择本地 OpenAI 兼容端点模型填qwen2.5:7b等本地模型名记忆层同样本地持久化全程数据不出内网。9.5 方式四官方托管云需注册访问 https://www.letta.com 注册账号登录在云端控制台创建 Agent模型额度与订阅按官方定价计费适合不想自建基础设施的团队。9.6 各厂商 Key 获取入口厂商模型示例Key 获取入口DeepSeekdeepseek-chat / deepseek-reasonerplatform.deepseek.com智谱 GLMglm-4.5 / glm-4.5-airopen.bigmodel.cn阿里云百炼qwen-max / qwen3bailian.console.aliyun.com硅基流动各家开源模型聚合cloud.siliconflow.cnOpenAIgpt-4o / o3platform.openai.comAnthropicclaude-sonnet-4-5console.anthropic.comGeminigemini-2.5-pro / gemini-2.5-flashaistudio.google.comOllama本地任意开源模型无需 Key提示Letta 的自动上下文压缩与记忆自编辑由框架完成不消耗模型额外 Token 成本选低价模型DeepSeek、GLM即可生产环境建议 PostgreSQL 持久化记忆。10. 简单示例示例一用 Letta CLI 创建带长期记忆的 Agent 并对话letta run在交互界面中选择/创建 Agent 后直接对话用户我叫小明喜欢喝美式咖啡下周二我要参加产品评审会。退出并重新启动letta run同一 Agent后再问用户我下周二有什么安排喜欢喝什么咖啡Agent 会从记忆层自动读取之前的偏好与日程self-editing memory 跨会话持久化验证长期记忆能力长会话还会自动压缩上下文不担心超出模型窗口。示例二用 Letta 生成一个 HTML 小游戏贪吃蛇。letta run在交互界面输入用 HTML CSS JavaScript 写一个贪吃蛇小游戏单文件方向键控制显示得分 输出完整代码我用它保存为 snake.html。Agent 会输出完整的snake.html代码画布 游戏循环 键盘事件 计分逻辑→ 你复制保存到本地 → 浏览器双击打开即可试玩。由于 Letta 的跨会话记忆下次对话直接说把上次那个贪吃蛇加上重新开始按钮Agent 会记得之前生成的代码版本继续修改无需重新描述需求。说明本示例按第 9 章配置的模型计费生成 HTML 小游戏消耗较少DeepSeek / GLM 等低价模型即可完成记忆管理不额外计费。