人在回路
Human-in-the-loop
中级通用人在回路(Human-in-the-loop)是指 Agent 执行任务时,在关键节点暂停,让人查看信息、作出决定,再继续运行。它解决的是自动化遇到高风险或难以判断的操作时,可能替人做出错误决定的问题,例如发送客户邮件前先让你确认内容。
你可能会说:「让 AI 先把要改的内容和可能影响列给我看,我确认后它再动手。」
读之前建议先了解
动手看看发送客户邮件前先确认
1
Agent 起草好给客户的邮件,先交给审核人确认;此时只是草稿,还没有发出去。
要点人在哪一步接过决定权?
- 1
先找需要人判断的节点
不是每一步都要你点头。比如 Agent 可以自行整理客户反馈,但准备向客户群发回复时就停下来,因为收件人和措辞出了错,很难靠后续代码修复。
- 2
暂停时给出可判断的信息
只问你「是否继续」没什么用。Agent 最好把将要执行的动作、目标、预览和可能影响摆出来。你看得出它要给谁发信、发什么,确认才有意义。
- 3
把人的选择接回执行流程
你可以同意、拒绝或要求修改;Agent 根据选择继续、停止或重新生成方案。如果你一直没回复,高风险操作就先保持暂停,避免把沉默当成授权。
容易混淆的地方
人在回路不等于让人做完 Agent 的工作:Agent 仍负责准备方案和执行已获确认的动作,人只在选定节点作判断。它也不等于权限控制;权限控制决定 Agent 能否访问某项资源,人在回路决定某次具体操作是否继续。两者可以同时使用,例如 Agent 有发信权限,但每次群发前仍要你确认。
什么时候用
适合用
- Agent 要批量修改后台商品价格时,先展示改价清单和影响范围,你确认后再写入数据库。
- AI 客服准备向客户发送退款说明时,先让客服人员核对事实和措辞,再执行发送。
- Agent 准备部署会影响线上用户的改动时,先汇报测试结果和待发布版本,由负责人决定是否继续。
不适合用
- 只想让 Agent 每晚整理一次内部日志摘要,不涉及对外发送或修改数据时,可以定时自动运行,异常时再通知你。
- 需要判断表单邮箱格式是否正确时,用数据校验即时给出结果,比逐条交给人审批合适。
- 担心 Agent 读取不该访问的客户数据时,先用权限控制限制访问范围,而不是靠人工确认每次读取。
练一练选一个答案,看看解释
你让 Agent 整理订单数据,并给所有逾期订单的客户发送提醒。怎样设计人在回路的节点?
让 AI 帮你做复制给 AI Agent 直接用
请在批量给客户发送邮件的流程中加入人在回路:先生成收件人名单、邮件预览和发送数量,暂停等待我确认、修改或取消。只有我明确确认后才调用发送工具;超时或没有回复就保持未发送状态,并记录最终决定。