标题Agent Gym: A Framework for Continuous Evaluation and Evolution of LLM Agents Through Human-in-the-Loop Feedback来源arXiv, 2608.15591v1️文章简介研究问题如何解决大语言模型智能体在部署后行为冻结无法适应不断变化的业务规则和边缘案例且传统修正流程依赖工程师修改代码、效率低下的问题主要贡献论文提出了Agent Gym框架通过人机协同反馈机制在不修改智能体源代码的前提下实现对任意LLM智能体的持续评估、行为修正与演化。重点思路采用黑盒封装设计将现有智能体视为不可修改的黑盒仅通过输入输出进行交互确保领域无关性和架构解耦。构建三层架构体系宪法层通过声明式配置YAML和Markdown规则书编码领域知识运行时推理管道串联执行、调查与自适应修正学习循环允许专家通过自然语言交互发现并验证新规则。开发混合确定性-LLM修正引擎ALF利用21种条件操作符进行确定性错误检测并通过三级动作模型字段编辑、手术式修补、管道继续实施针对性修正。设计无真值依赖的三层调查架构结合确定性检查、LLM规则发现及保守的三重交叉验证机制在无需标注数据的情况下验证合规性并控制成本。引入程序化安全循环在人类专家批准前自动验证新规则的schema正确性、目标匹配度及副作用防止规则冲突和治理漂移。提出Spec-to-Note Gap概念借鉴自编码器思想通过对比自然语言规范与LLM生成的透明度笔记揭示系统行为偏差并提升可解释性。分析总结实验表明该框架具有完全的领域无关性仅需更改配置文件即可适配新业务场景无需重写框架代码。参考实现证明框架具备 operational readiness能在发票处理等复杂场景中有效运行支持从分类到审计的全流程自动化。三层调查架构通过内容哈希缓存、分批处理和早期退出机制显著降低了LLM调用成本使稳态调查成本主要由确定性检查主导。程序化安全循环能有效消除新规则的意外副作用确保只有经过严格验证的规则才能进入生产环境保障了系统的稳健性。分离关注点的设计使得智能体、修正层和学习循环可以独立版本控制和演进提升了系统的可维护性和审计能力。个人观点论文将智能体的“构建”与“运维/演化”彻底解耦引入了外部修正层和基于配置的“宪法”治理。