AI为什么会有幻觉?

最近Open AI 一篇新的论文简单的解释了为何 AI 会产生幻觉。
这篇论文大概总结就是:
仅仅是因为 AI 被训练成可以回答所有问题,回答“我不知道”是最低评分。
而很明显 AI 不可能无所不知,再加上 AI 又有编造的能力。所以,胡编乱造就成为 AI 自然的选择,于是幻觉就出现了。

那么,解决办法就出乎意料的简单:告诉 AI 在足够自信(90%)的情况下提供回答,否则,回答我不知道。
所以归根结底,还是用户需要 AI 无所不知的欲望,让 AI 开始瞎编(能力一直都有)。

当然,这个论文也揭示了一个很可怕的事实:
AI 能否撒谎早就不是问题了,AI 从诞生开始就善于撒谎。
而更进一步的问题是,如果 AI 回答我不知道,用户可能反而更倾向于使用会编造回答的 AI 。
最好的解法是在训练过程中让AI敢说不知道,而用户也能逐渐认清事实:AI解释不了一切。 #为了减少AI幻觉,你注入过哪些设定?#
全部评论
求自信阈值细节
点赞 回复 分享
发布于 03-05 10:41 北京
难以想象三五年之后AI会强到何种地步
点赞 回复 分享
发布于 03-01 12:29 江西
现在的AI比一年前的AI强了太多
点赞 回复 分享
发布于 03-01 12:29 江西
他只要解决了太多问题
点赞 回复 分享
发布于 02-26 20:08 江苏
幻觉是因为太想满足人类了
点赞 回复 分享
发布于 02-06 10:57 上海
用户:我要正确答案!AI:我编还不行吗
点赞 回复 分享
发布于 02-06 10:57 湖南
敢说不知道才是真智能啊
点赞 回复 分享
发布于 02-06 10:57 辽宁

相关推荐

评论
点赞
收藏
分享

创作者周榜

更多
正在热议
更多
# 春招至今,你的战绩如何? #
8315次浏览 76人参与
# 你的实习产出是真实的还是包装的? #
1517次浏览 38人参与
# 巨人网络春招 #
11278次浏览 223人参与
# 军工所铁饭碗 vs 互联网高薪资,你会选谁 #
7292次浏览 40人参与
# 简历第一个项目做什么 #
31443次浏览 320人参与
# 当下环境,你会继续卷互联网,还是看其他行业机会 #
186710次浏览 1118人参与
# 米连集团26产品管培生项目 #
5404次浏览 213人参与
# 不考虑薪资和职业,你最想做什么工作呢? #
152195次浏览 887人参与
# 研究所笔面经互助 #
118827次浏览 577人参与
# 重来一次,我还会选择这个专业吗 #
433232次浏览 3926人参与
# 简历中的项目经历要怎么写? #
309852次浏览 4177人参与
# 面试紧张时你会有什么表现? #
30458次浏览 188人参与
# 你今年的平均薪资是多少? #
212899次浏览 1039人参与
# AI时代,哪些岗位最容易被淘汰 #
63148次浏览 781人参与
# 我的求职精神状态 #
447918次浏览 3128人参与
# 你最满意的offer薪资是哪家公司? #
76344次浏览 374人参与
# 正在春招的你,也参与了去年秋招吗? #
363045次浏览 2635人参与
# 你怎么看待AI面试 #
179691次浏览 1216人参与
# 牛客AI文生图 #
21390次浏览 237人参与
# 职能管理面试记录 #
10773次浏览 59人参与
# 网易游戏笔试 #
6422次浏览 83人参与
# 腾讯音乐求职进展汇总 #
160521次浏览 1109人参与
牛客网
牛客网在线编程
牛客网题解
牛客企业服务