1. 大语言模型的 RLHF 训练流程是什么，它存在哪些潜在风险RLHF 一般分三步。第一步是 SFT，用高质量指令数据把基座模型调成能听懂任务、按格式回答的模型。第二步是训练奖励模型，把人工偏好数据整理成 chosen 和 rejected 形式，让奖励模型学会判断两个回答哪个更好。第三步是强化学习优化，最经典的是 PPO，让当前策略在奖励更高的方向上更新，同时用 KL 约束避免模型偏离初始策略太远。它的风险主要在三个地方。第一，奖励模型可能学偏，模型最后学到的是“讨好奖励模型”而不是真正更有帮助。第二，强化学习阶段如果约束不够，模型容易出现 reward hacking，看起来分数高，但真...

给时间时间 终会梦想成真的🥺那就努力努力再努力🤲

何意味😄

前言鼠鼠水牛客已经有大半年了，最近也是因为打算找第一份实习所以牛客的使用时长也是直线上升。随着使用的时间越来越长，最深有感触的还是牛油们真的很好很优秀不管是分享面经还是传授经验都是毫无保留的。鼠鼠作为一个上大学才接触编程的大学生，是第一次觉得人与人之间就算不认识也可以做到不在乎利益，无关经验的多少都在表达着，分享着自己有关某个观点的见解还有就业择业的经验。鼠鼠深深感到计算机这个专业不只是一门专业，牛客也不只是一个提供CS爱好者交流的平台，更像是一个温馨的大家庭。鼠鼠是走的Java + AI就业路线，每天打开电脑第一件事就是打开牛客先刷上一个半小时，这一个半小时也是自认为一天中最有价值信息输入方...