第 40 题:Agent 的幻觉(Hallucination)及如何检测和缓解 题目 什么是 Agent 的幻觉(Hallucination)?如何检测和缓解? 一、什么是 Agent 的幻觉? 幻觉(Hallucination) 指模型生成与事实不符、或无法由当前输入/工具结果支撑的内容,却以肯定语气呈现。在 Agent 场景下包括: 事实幻觉:编造不存在的数据、事件、API 结果或工具输出。 工具幻觉:声称调用了某工具或得到某结果,但实际未调用或结果不同;或编造不存在的工具与参数。 推理幻觉:推理链中的逻辑错误、因果颠倒、或“想当然”的步骤。 身份/能力幻觉:声称具备某能力或权限而实际没...