1. 大语言模型的 RLHF 训练流程是什么，它存在哪些潜在风险RLHF 一般分三步。第一步是 SFT，用高质量指令数据把基座模型调成能听懂任务、按格式回答的模型。第二步是训练奖励模型，把人工偏好数据整理成 chosen 和 rejected 形式，让奖励模型学会判断两个回答哪个更好。第三步是强化学习优化，最经典的是 PPO，让当前策略在奖励更高的方向上更新，同时用 KL 约束避免模型偏离初始策略太远。它的风险主要在三个地方。第一，奖励模型可能学偏，模型最后学到的是“讨好奖励模型”而不是真正更有帮助。第二，强化学习阶段如果约束不够，模型容易出现 reward hacking，看起来分数高，但真...

不知道过两年会变成啥样…   

🐭🐭是学院本，没有实习过😭3.2号更新一波简历，目前已经有一家进二面了，一面线上面被拷打了一个多小时，后面和负责人开始聊天。😭

最近有不少同学问我关于 AI 应用开发方向的求职思路，尤其是背景不算顶尖时该怎么规划。我自己是专升本出身、双非硕士，经历过两段实习——一家小厂和一家物流中厂，做的都是比较核心的业务，时至今日，也是拿了几个薪资还比较客观的offer。这篇帖子不讲鸡汤，只讲方法论，希望对正处于春招的同学们有参考价值。一、先把自己的背景看清楚，再谈规划很多人求职时第一步就去刷题、背八股，却没有想清楚一件事：自己究竟适合投哪类公司、哪类岗位？背景决定初始路径，这一点在 AI 应用开发方向尤为明显。以我的情况为例：专升本 + 双非硕，意味着在简历筛选阶段会被部分大厂直接过滤。接受这个现实，不是认命，而是为了把精力集中在...