联影医疗 电子硬件工程师 一面

为了解决AI幻觉，我们应该先要理解什么是AI幻觉？AI 幻觉（AI Hallucination），在生成式 AI 领域特指模型生成看似合理、流畅且自信，但与客观事实不符、凭空捏造或逻辑矛盾的内容的现象。通俗地说，就是 AI 在一本正经地胡说八道。我们可以让AI指明内容出处来减少AI幻觉：约束回答范围：仅基于我提供的材料范围的信息来回答，避免任何虚构。若信息不明确，请明确说明。自动标注未验证内容，提供事实信息和来源：自动标注未验证的内容，在回复中提供事实信息和参考来源。#为了减少AI幻觉，你注入过哪些设定？#。 

一个面试也没，心累   

思维链（CoT）方法依赖于一组固定的人工注释范例。问题在于，这些范例可能不是不同任务的最有效示例。为了解决这个问题，Diao 等人（2023）最近提出了一种新的提示方法，称为 Active-Prompt，以适应 LLMs 到不同的任务特定示例提示（用人类设计的 CoT 推理进行注释）。下面是该方法的说明。第一步是使用或不使用少量 CoT 示例查询 LLM。对一组训练问题生成 k 个可能的答案。基于 k 个答案计算不确定度度量（使用不一致性）。选择最不确定的问题由人类进行注释。然后使用新的注释范例来推断每个问题。图片来源：Diao等人（2023）