第 17 讲:Human-in-the-loop:人工确认与风险控制

📅 2026/7/3 17:07:54
第 17 讲:Human-in-the-loop:人工确认与风险控制
这一讲解决什么问题上一讲我们学习了 Workflow。Workflow 解决的是:复杂任务如何从自由发挥变成可控执行。它通过节点、状态、条件跳转、Checkpoint 和错误处理,把复杂 Agent 任务变成可以管理的流程。但 Workflow 里有一个非常关键的节点类型:人工确认节点也就是这一讲要讲的 Human-in-the-loop。Human-in-the-loop 可以理解为:在 Agent 执行流程中,把某些关键决策、风险动作或不确定步骤交给人确认、修改、拒绝或审批。很多人刚开始做 Agent 时,容易有一个误解:Agent 越自动越好。这句话只对一半。低风险、可重复、可验证的任务,当然应该尽量自动化。但高风险、不可逆、影响范围大、涉及权限或合规的任务,不能完全自动化。例如:删除生产数据执行数据库 DDL 或 DML重启线上服务修改生产配置