面试官最爱问题之幻觉
#面试官最爱问的 AI 问题是......#
ps:再次感叹牛客小助理选题真有水平,该条问的次数仅次于RAG。
幻觉是RAG缺点的一个延伸问题,在生成阶段会出现的
还是老生常谈的几个问题,是什么(原理),有哪些,怎么优化/解决
幻觉的原因:
1. 统计概率预测的缺点
2. 奖惩错位,不能说不知道(有处罚),有输出但乱说有激励
3. 训练的数据有误
其他的可以自行补充
二、幻觉分类
1.编造类幻觉
2. 违背真实事实类幻觉
3.上下文环节 牛头不对马嘴
4.来源/引用幻觉
以上是自己命名的,意思大概差不多就行
三、怎么解决,这里要看面试官怎么问,一般有训练和推理两个角度
回答这个问题要先捋清楚训练和推理的关键步骤,再去思考这个关键步骤有什么措施能解决,套用已有的基本知识,主打一个靠边回答
- 训练阶段
数据、训练方法、模型架构、测试
大概是这些
- 推理阶段
核心是要给“路”加各种路标和线路,让模型跑在正确的路上
ps:再次感叹牛客小助理选题真有水平,该条问的次数仅次于RAG。
幻觉是RAG缺点的一个延伸问题,在生成阶段会出现的
还是老生常谈的几个问题,是什么(原理),有哪些,怎么优化/解决
幻觉的原因:
1. 统计概率预测的缺点
2. 奖惩错位,不能说不知道(有处罚),有输出但乱说有激励
3. 训练的数据有误
其他的可以自行补充
二、幻觉分类
1.编造类幻觉
2. 违背真实事实类幻觉
3.上下文环节 牛头不对马嘴
4.来源/引用幻觉
以上是自己命名的,意思大概差不多就行
三、怎么解决,这里要看面试官怎么问,一般有训练和推理两个角度
回答这个问题要先捋清楚训练和推理的关键步骤,再去思考这个关键步骤有什么措施能解决,套用已有的基本知识,主打一个靠边回答
- 训练阶段
数据、训练方法、模型架构、测试
大概是这些
- 推理阶段
核心是要给“路”加各种路标和线路,让模型跑在正确的路上
全部评论
相关推荐
点赞 评论 收藏
分享

