AI Agent 工程实践(26):Prompt Management

📅 2026/8/13 10:36:22
AI Agent 工程实践(26):Prompt Management
系列AI Agent 工程实践上一篇第 25 篇《Memory Service》下一篇第 27 篇《日志系统Logging》一、开场一次改提示词引发的雪崩一个团队把系统提示词写在代码常量里SYSTEM_PROMPT 你是...。某天运营要微调语气开发改了常量、发版、回滚两次才对。更糟的是没人知道线上跑的到底是哪一版提示词——因为提示词和代码绑死没有版本记录。上篇25讲记忆收口这篇讲提示词收口——Prompt Management。提示词不是文本是会被频繁调、要可回溯、要能 A-B 的生产资产。二、问题背景prompt.txt vs Prompt Registry裸写版SYSTEM_PROMPT 你是一个客服语气专业。 # 改语气改代码、发版、祈祷管理版from prompt.registry import get_prompt prompt get_prompt(customer_system, versionv3) # 按版本取 rendered prompt.render(user_name张三) # 注入变量差别提示词从代码里的字符串变成有版本、有变量、可测试的资产。三、错误尝试三种提示词管理翻车错误 1写死成常量如上。改提示 改代码 发版运营无法自助且无法回溯昨天线上是哪版。错误 2用字符串拼接prompt 你是 role 服务 user 。 # 拼接易错、难测拼接出的最终 prompt 不可见、难单测出问题时不知道是哪段拼坏的。错误 3不区分模板和变量把角色设定和用户名字混在一个字符串里想改角色要改整段想换用户要改整段——两件变化原因绑死了。四、关键观察Prompt 模板 变量 版本好的 Prompt Management 把提示词拆成Template固定骨架角色、规则可版本化。Variables动态注入用户名、上下文运行时填。Version每次改模板存一版可回滚、可 A-B。Registry按名字版本取调用方不写死字符串。A-B Test同一场景两版提示按比例流量对比效果。提示词是生产资产不是开发随手写的字符串。它会被运营调、会被 A-B、会被审计当时线上是哪版——所以必须像代码一样版本化、像配置一样可注入。五、最终方案Prompt Management 长什么样prompt/ ├── registry.py # get_prompt(name, version) ├── templates/ │ ├── customer_system.v3.yaml # 模板 变量声明 │ └── customer_system.v2.yaml └── ab.py # A-B 分流逻辑模板YAMLname: customer_system version: v3 template: | 你是{{role}}服务用户{{user_name}}。 规则 - 不承诺具体赔付金额 variables: [role, user_name]调用p get_prompt(customer_system, versionv3) text p.render(role客服, user_name张三) # A-B50% 流量用 v350% 用 v4 variant ab.pick(customer_system) # 返回 v3 或 v4分流结构Mermaid六、设计权衡什么时候上 Prompt Management场景建议理由原型、提示词一次写好不再动常量即可管理是负债提示词常调、多人协作Template Version Registry回溯A-B 刚需要优化效果 A-B Test数据驱动改提示反过度工程不要为一条永不改的提示上整套带 UI 的 Prompt 平台。核心是模板 / 变量 / 版本三件事形式可简。七、总结✅ 提示词写死成常量 改语气要发版 无法回溯线上版本。✅ 三种翻车常量写死、字符串拼接、模板变量不分。✅ Prompt Template骨架/版本 Variables注入 Version回滚/A-B Registry按名取。✅ 提示词是生产资产要像代码一样版本化、像配置一样可注入。✅ 反过度工程核心是模板/变量/版本三件事不必上重型平台。下一篇进入看不见就优化不了的底座——日志系统 Logging。27参考资料带用途说明本系列25Memory Service本文与25同构——把散落资产收口成可管理的服务。本系列22AI Agent 项目应该如何分层本文对应config/周边的提示词治理也可归入 agent/ 的定义。本系列04Review——为什么 AI Agent 必须每天复盘提示词版本回溯是复盘的一部分。Anthropic Prompt Engineering 文档docs.anthropic.com模板/变量化提示词设计的最佳实践参考。本文是 AI Agent 工程实践系列的第 26 篇第四阶段第六篇。系列导航上一篇第 25 篇《Memory Service》下一篇第 27 篇《日志系统Logging》