【传音星球探员】在小红书上线啦！

第 40 题：Agent 的幻觉（Hallucination）及如何检测和缓解 题目 什么是 Agent 的幻觉（Hallucination）？如何检测和缓解？ 一、什么是 Agent 的幻觉？ 幻觉（Hallucination） 指模型生成与事实不符、或无法由当前输入/工具结果支撑的内容，却以肯定语气呈现。在 Agent 场景下包括：  事实幻觉：编造不存在的数据、事件、API 结果或工具输出。 工具幻觉：声称调用了某工具或得到某结果，但实际未调用或结果不同；或编造不存在的工具与参数。 推理幻觉：推理链中的逻辑错误、因果颠倒、或“想当然”的步骤。 身份/能力幻觉：声称具备某能力或权限而实际没...