第 35 题：人机协作（Human-in-the-loop）在 Agent 系统中的设计

题目

什么是人机协作（Human-in-the-loop）？在 Agent 系统中如何设计？

一、什么是 Human-in-the-loop？

Human-in-the-loop（HITL） 指在自动决策或执行流程中引入人的参与：由人在关键节点进行确认、修正、审批或提供反馈，再继续自动化流程。目的是在保持效率的同时，提高安全性、可控性与合规性，避免 Agent 误操作、幻觉或越权。

在 Agent 系统中，HITL 常表现为：工具执行前需人审批、敏感操作前二次确认、结果呈现后人可纠正或补充、或人给出偏好/反馈以调整后续行为。

二、在 Agent 系统中如何设计

• 审批点：在特定类型的动作前（如发邮件、支付、删数据）插入“等待人工审批”；Agent 输出待执行动作，系统挂起并通知人，人通过/拒绝/修改后再继续。