优化prompt可以有效消除事实性幻觉
AI有时候会无中生有,逻辑混乱,这就是出现出现了AI幻觉。
主要包括事实性幻觉和逻辑性幻觉。事实性幻觉是指AI虚构事实,逻辑性幻觉是AI曲解了原文的逻辑。RUC新闻坊实验结果表明优化Prompt可以有效消除事实性幻觉。规则如下:
1.明确指令的用词。比起模糊的词汇,精确的词汇更能减少AI的数据盲区,进而减少虚构信息和语境误解。
2.明确回答的边界,边界不仅有时间的,还有虚实的。比如应当明确规定“引用信源的时间范围应当在2024年1月1日至2025年1月1日之间”,或者“所有生成内容必须基于事实或者已经提供的文档” 。
3.为了防止AI自信地胡说八道,还应当建立标注机制,如“标注区分确定的事实和推测内容”或者“所有内容都要引用信源进行佐证” 。
4.不仅要明确指示AI如何使用信源,还要教给它如何思考。一个典型的分段思考指令是“首先给出确定事实,再输出根据事实的分析,最后总结
生成结论” 。或者要求AI分段输出,这可以减少一次性生成较长且复杂的回答导致的幻觉。
5.最后一道防火墙,就是交叉验证机制,包括但不限于给不同AI相同的指令和内容以相互对比,或者引入其他权威信源判断回答的合理性。 #为了减少AI幻觉,你注入过哪些设定?#
主要包括事实性幻觉和逻辑性幻觉。事实性幻觉是指AI虚构事实,逻辑性幻觉是AI曲解了原文的逻辑。RUC新闻坊实验结果表明优化Prompt可以有效消除事实性幻觉。规则如下:
1.明确指令的用词。比起模糊的词汇,精确的词汇更能减少AI的数据盲区,进而减少虚构信息和语境误解。
2.明确回答的边界,边界不仅有时间的,还有虚实的。比如应当明确规定“引用信源的时间范围应当在2024年1月1日至2025年1月1日之间”,或者“所有生成内容必须基于事实或者已经提供的文档” 。
3.为了防止AI自信地胡说八道,还应当建立标注机制,如“标注区分确定的事实和推测内容”或者“所有内容都要引用信源进行佐证” 。
4.不仅要明确指示AI如何使用信源,还要教给它如何思考。一个典型的分段思考指令是“首先给出确定事实,再输出根据事实的分析,最后总结
生成结论” 。或者要求AI分段输出,这可以减少一次性生成较长且复杂的回答导致的幻觉。
5.最后一道防火墙,就是交叉验证机制,包括但不限于给不同AI相同的指令和内容以相互对比,或者引入其他权威信源判断回答的合理性。 #为了减少AI幻觉,你注入过哪些设定?#
全部评论
AI也要学会分段思考啊
写的时候就容易忘记这些规则
精准Prompt真的有用!学到了
相关推荐
迷茫的大四🐶:搞不好进去还得抓你玩手机呢 点赞 评论 收藏
分享
点赞 评论 收藏
分享
