跳到正文

人在回路

Human-in-the-loop

中级通用

人在回路(Human-in-the-loop)是指 Agent 执行任务时,在关键节点暂停,让人查看信息、作出决定,再继续运行。它解决的是自动化遇到高风险或难以判断的操作时,可能替人做出错误决定的问题,例如发送客户邮件前先让你确认内容。

你可能会说:「让 AI 先把要改的内容和可能影响列给我看,我确认后它再动手。」

读之前建议先了解

动手看看

邮件草稿Agent暂停发送审核人待审核邮件服务未发送
1

Agent 起草好给客户的邮件,先交给审核人确认;此时只是草稿,还没有发出去。

要点

  1. 1

    先找需要人判断的节点

    不是每一步都要你点头。比如 Agent 可以自行整理客户反馈,但准备向客户群发回复时就停下来,因为收件人和措辞出了错,很难靠后续代码修复。

  2. 2

    暂停时给出可判断的信息

    只问你「是否继续」没什么用。Agent 最好把将要执行的动作、目标、预览和可能影响摆出来。你看得出它要给谁发信、发什么,确认才有意义。

  3. 3

    把人的选择接回执行流程

    你可以同意、拒绝或要求修改;Agent 根据选择继续、停止或重新生成方案。如果你一直没回复,高风险操作就先保持暂停,避免把沉默当成授权。

容易混淆的地方

人在回路不等于让人做完 Agent 的工作:Agent 仍负责准备方案和执行已获确认的动作,人只在选定节点作判断。它也不等于权限控制;权限控制决定 Agent 能否访问某项资源,人在回路决定某次具体操作是否继续。两者可以同时使用,例如 Agent 有发信权限,但每次群发前仍要你确认。

什么时候用

适合用

  • Agent 要批量修改后台商品价格时,先展示改价清单和影响范围,你确认后再写入数据库。
  • AI 客服准备向客户发送退款说明时,先让客服人员核对事实和措辞,再执行发送。
  • Agent 准备部署会影响线上用户的改动时,先汇报测试结果和待发布版本,由负责人决定是否继续。

不适合用

  • 只想让 Agent 每晚整理一次内部日志摘要,不涉及对外发送或修改数据时,可以定时自动运行,异常时再通知你。
  • 需要判断表单邮箱格式是否正确时,用数据校验即时给出结果,比逐条交给人审批合适。
  • 担心 Agent 读取不该访问的客户数据时,先用权限控制限制访问范围,而不是靠人工确认每次读取。

练一练

你让 Agent 整理订单数据,并给所有逾期订单的客户发送提醒。怎样设计人在回路的节点?

让 AI 帮你做

请在批量给客户发送邮件的流程中加入人在回路:先生成收件人名单、邮件预览和发送数量,暂停等待我确认、修改或取消。只有我明确确认后才调用发送工具;超时或没有回复就保持未发送状态,并记录最终决定。

接下来学什么