1. 大语言模型的 RLHF 训练流程是什么，它存在哪些潜在风险RLHF 一般分三步。第一步是 SFT，用高质量指令数据把基座模型调成能听懂任务、按格式回答的模型。第二步是训练奖励模型，把人工偏好数据整理成 chosen 和 rejected 形式，让奖励模型学会判断两个回答哪个更好。第三步是强化学习优化，最经典的是 PPO，让当前策略在奖励更高的方向上更新，同时用 KL 约束避免模型偏离初始策略太远。它的风险主要在三个地方。第一，奖励模型可能学偏，模型最后学到的是“讨好奖励模型”而不是真正更有帮助。第二，强化学习阶段如果约束不够，模型容易出现 reward hacking，看起来分数高，但真...

  史上最尬，没有之一😂 我是社招。

实习岗居然要微服务实习经验

27届后端岗，今天面了个深圳，百人厂，面试20min，面试官没开摄像头。没让自我介绍，上来就查户口，家里情况有无兄弟姐妹...然后呢，问我高考分数，为什么考xx大学，接着问求职规划。有聊一下ai使用的情况和当下的市场环境，问我了解4A吗，我说没了解过，他介绍了一边4A给我听，然后让我复述一遍。并给他们的重要程度做个排序。反问环节：1.问业务，做半导体风控的。2.有无对实习生有技术上的支持和模型的配置。（这点我自己摸索出来的我觉得很好，说一下自己使用ai用哪些配置，聊投机了面试官说不定会让你谈谈使用感受和经验，让他感觉你真的用过）。3.薪资-开4000，有住宿。不太懂这是kpi面，还是厂真的确认...