优化prompt可以有效消除事实性幻觉

AI有时候会无中生有,逻辑混乱,这就是出现出现了AI幻觉。

主要包括事实性幻觉和逻辑性幻觉。事实性幻觉是指AI虚构事实,逻辑性幻觉是AI曲解了原文的逻辑。RUC新闻坊实验结果表明优化Prompt可以有效消除事实性幻觉。规则如下:

1.明确指令的用词。比起模糊的词汇,精确的词汇更能减少AI的数据盲区,进而减少虚构信息和语境误解。

2.明确回答的边界,边界不仅有时间的,还有虚实的。比如应当明确规定“引用信源的时间范围应当在2024年1月1日至2025年1月1日之间”,或者“所有生成内容必须基于事实或者已经提供的文档” 。

3.为了防止AI自信地胡说八道,还应当建立标注机制,如“标注区分确定的事实和推测内容”或者“所有内容都要引用信源进行佐证” 。

4.不仅要明确指示AI如何使用信源,还要教给它如何思考。一个典型的分段思考指令是“首先给出确定事实,再输出根据事实的分析,最后总结
生成结论” 。或者要求AI分段输出,这可以减少一次性生成较长且复杂的回答导致的幻觉。

5.最后一道防火墙,就是交叉验证机制,包括但不限于给不同AI相同的指令和内容以相互对比,或者引入其他权威信源判断回答的合理性。 #为了减少AI幻觉,你注入过哪些设定?#
全部评论
AI也要学会分段思考啊
点赞 回复 分享
发布于 02-06 11:01 广东
写的时候就容易忘记这些规则
点赞 回复 分享
发布于 02-06 11:01 河北
精准Prompt真的有用!学到了
点赞 回复 分享
发布于 02-06 11:00 四川

相关推荐

老粉都知道小猪猪我很久没更新了,因为秋招非常非常不顺利,emo了三个月了,接下来说一下我的情况吧本人是双非本 专业是完全不着计算机边的非科班,比较有优势的是有两段大厂实习,美团和字节。秋招面了50+场泡池子泡死的:滴滴 快手 去哪儿 小鹏汽车 不知名的一两个小厂其中字节13场 两次3面挂 两次2面挂 一次一面挂其中有2场面试题没写出来,其他的都是全a,但该挂还是挂,第三次三面才面进去字节,秋招加暑期总共面了22次字节,在字节的面评可以出成书了快手面了8场,2次实习的,通过了但没去,一次2面挂 最后一次到录用评估 至今无消息滴滴三面完 没几天挂了 所有技术面找不出2个问题是我回答不上来的,三面还来说我去过字节,应该不会考虑滴滴吧,直接给我干傻了去哪儿一天速通 至今无消息小鹏汽车hr 至今无消息美团2面挂 然后不捞我了,三个志愿全部结束,估计被卡学历了虾皮二面挂 这个是我菜,面试官太牛逼了拼多多二面挂 3道题也全写了 也没问题是回答不出来的 泡一周后挂腾讯面了5次 一次2面挂 三次一面挂,我宣布腾讯是世界上最难进的互联网公司然后还有一些零零散散的中小厂,但是数量比较少,约面大多数都是大厂。整体的战况非常惨烈,面试机会少,就算面过了也需要和各路神仙横向对比,很多次我都是那个被比下去的人,不过这也正常,毕竟谁会放着一个985的硕士不招,反而去招一个双非读化学的小子感觉现在互联网对学历的要求越来越高了,不仅仅要985还要硕士了,双非几乎没啥生存空间了,我感觉未来几年双非想要进大厂开发的难度应该直线上升了,唯一的打法还是从大二刷实习,然后苟个转正,不然要是去秋招大概率是炮灰。而且就我面字节这么多次,已经开始问很多ai的东西了,你一破本科生要是没实习没科研懂什么ai啊,纯纯白给了
不知名牛友_:爸爸
秋招你被哪家公司挂了?
点赞 评论 收藏
分享
评论
点赞
收藏
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务