优化prompt可以有效消除事实性幻觉

AI有时候会无中生有，逻辑混乱，这就是出现出现了AI幻觉。

主要包括事实性幻觉和逻辑性幻觉。事实性幻觉是指AI虚构事实，逻辑性幻觉是AI曲解了原文的逻辑。RUC新闻坊实验结果表明优化Prompt可以有效消除事实性幻觉。规则如下:

1.明确指令的用词。比起模糊的词汇，精确的词汇更能减少AI的数据盲区，进而减少虚构信息和语境误解。

2.明确回答的边界，边界不仅有时间的，还有虚实的。比如应当明确规定“引用信源的时间范围应当在2024年1月1日至2025年1月1日之间”，或者“所有生成内容必须基于事实或者已经提供的文档” 。

3.为了防止AI自信地胡说八道，还应当建立标注机制，如“标注区分确定的事实和推测内容”或者“所有内容都要引用信源进行佐证” 。

4.不仅要明确指示AI如何使用信源，还要教给它如何思考。一个典型的分段思考指令是“首先给出确定事实，再输出根据事实的分析，最后总结
生成结论” 。或者要求AI分段输出，这可以减少一次性生成较长且复杂的回答导致的幻觉。

5.最后一道防火墙，就是交叉验证机制，包括但不限于给不同AI相同的指令和内容以相互对比，或者引入其他权威信源判断回答的合理性。 #为了减少AI幻觉，你注入过哪些设定？#