字节跳动内推

1. 大语言模型的 RLHF 训练流程是什么，它存在哪些潜在风险RLHF 一般分三步。第一步是 SFT，用高质量指令数据把基座模型调成能听懂任务、按格式回答的模型。第二步是训练奖励模型，把人工偏好数据整理成 chosen 和 rejected 形式，让奖励模型学会判断两个回答哪个更好。第三步是强化学习优化，最经典的是 PPO，让当前策略在奖励更高的方向上更新，同时用 KL 约束避免模型偏离初始策略太远。它的风险主要在三个地方。第一，奖励模型可能学偏，模型最后学到的是“讨好奖励模型”而不是真正更有帮助。第二，强化学习阶段如果约束不够，模型容易出现 reward hacking，看起来分数高，但真...

寒假4场线上面试都黄了。开学返校，千里迢迢，路程25h。到校就是打扫卫生，整理杂物。第二天满课，有事没午休，晚上睡觉漏风着凉，终于是把自己累感冒了。结果感冒了才想起来自己还有一个一面测试题没写，但是昏昏沉沉看不下去；又想到今天boss还没投满150，得赶紧投完；之后又想起自己还没看课学习......焦虑，急躁，颓废，厌恶......各种情绪交织，终于接受了。谁让自己高考前想得太多，井底之蛙，没有想学习的心呢；谁让自己大一什么寻找幸福的意义，加入学生会和社管，忙成陀螺拿奖学金呢；谁让自己大二开始摆烂陷入无尽的虚无主义，而执行力--啥也不干呢。所以没办法，如今的结果，都是过往的自己一步步堆积出来的，自己认，自己扛。我大抵是病了。高中疫情居家放假，病痛缠身但不会想学习的事；如今病了，想的是好倒霉，打乱了许多计划，干不成很多事。对自己好一点，一路的风景何尝不值得我们驻足欣赏。那些过去没掌握的东西，不是失去了，而是在未来等待，一步一个脚印慢慢来去拾起来就好了。戒骄戒躁。

二本的结局就是铁人三项嘛

1. 自我介绍，说说你做过的项目里技术上最有挑战的一个。答：按"背景→技术挑战→你的解法→结果"四段走，控制在2分钟。重点放在技术挑战上，说清楚难在哪、你怎么想的、最终怎么解决的。极米是投影仪方向，如果有音视频、显示、IoT相关经验要重点提。2. FreeRTOS的任务堆栈溢出是如何检测的？溢出后系统会发生什么，如何预防？答：FreeRTOS提供两种栈溢出检测方式，通过configCHECK_FOR_STACK_OVERFLOW宏配置。方式一（检测值为1）：任务切换时检查栈指针是否越界，只在上下文切换时检查，开销小，但如果溢出发生在两次切换之间可能漏检。方式二（检测值为2）...