你经历过哪些AI幻觉?
#你经历过哪些AI幻觉?#
我遇到过一次很典型的 AI 幻觉,是做选择题的时候。题目其实我后来已经查到正确答案了,也能确定它一开始选错了。结果我把依据告诉它之后,它还是坚持原来的错误选项,甚至还能继续给出一大段看起来很有道理的解释。那一瞬间真的很离谱,因为它不是“不会”,而是“错了还特别自信”。
最有迷惑性的地方就在这儿:如果只是直接答不出来,反而容易警觉;但它会用很顺的逻辑、很肯定的语气,把错误包装得像正确答案一样。要是自己基础不够扎实,真的很容易被带偏。
从那次之后,我对 AI 的感觉就变了。它确实能帮忙提高效率、提供思路,但一到判断对错,尤其是有标准答案的题,还是不能太相信它的“自信”。AI 会犯错,更麻烦的是,它有时候会一本正经地把错说到底。
我遇到过一次很典型的 AI 幻觉,是做选择题的时候。题目其实我后来已经查到正确答案了,也能确定它一开始选错了。结果我把依据告诉它之后,它还是坚持原来的错误选项,甚至还能继续给出一大段看起来很有道理的解释。那一瞬间真的很离谱,因为它不是“不会”,而是“错了还特别自信”。
最有迷惑性的地方就在这儿:如果只是直接答不出来,反而容易警觉;但它会用很顺的逻辑、很肯定的语气,把错误包装得像正确答案一样。要是自己基础不够扎实,真的很容易被带偏。
从那次之后,我对 AI 的感觉就变了。它确实能帮忙提高效率、提供思路,但一到判断对错,尤其是有标准答案的题,还是不能太相信它的“自信”。AI 会犯错,更麻烦的是,它有时候会一本正经地把错说到底。
全部评论
相关推荐
