25届末九转方向

1. 大语言模型的 RLHF 训练流程是什么，它存在哪些潜在风险RLHF 一般分三步。第一步是 SFT，用高质量指令数据把基座模型调成能听懂任务、按格式回答的模型。第二步是训练奖励模型，把人工偏好数据整理成 chosen 和 rejected 形式，让奖励模型学会判断两个回答哪个更好。第三步是强化学习优化，最经典的是 PPO，让当前策略在奖励更高的方向上更新，同时用 KL 约束避免模型偏离初始策略太远。它的风险主要在三个地方。第一，奖励模型可能学偏，模型最后学到的是“讨好奖励模型”而不是真正更有帮助。第二，强化学习阶段如果约束不够，模型容易出现 reward hacking，看起来分数高，但真...

今天周一休息，突发奇想写一篇阶段总结。如题，我已经去了一个和Java彻底毫无关联的行业。曾经我以为自己能在计算机行业发光发热，没想到刚入行一年多就当了逃兵。从最开始的热爱到现在一看到代码就厌恶，不知道自己经历了什么。所以我去干什么了？答案是：在成都当了租房销售。上班那会压力大了就念叨着去干租房中介，但是一直下不去这个决心，想着自己学了四年多的计算机知识，终究还是不甘心。终于在某一天准备八股文的时候，看着无数篇和工作内容关系不大的理论知识，那一刻下定决心，决定尝试一下销售行业，也算是给自己一个交代。后面阴差阳错的投了成都自如去当租房管家，没想到面试很顺利，在当天一百多个面试的人里面，我成为了为数不多通过的几个幸运儿之一。目前已经培训通过，正式入职，也开了单，也有压力但是每天过得很开心，真心喜欢那种和人交流的感觉，哪怕是最后没有选择找我租房。说这些也是想告诉那些大三，大四正在找Java实习而焦虑的同学：你们现在还年轻，选择很多，容错率也很高，可以尽情去尝试自己喜欢的行业和工作。不用因为某一次的面试没通过或者简历石沉大海而焦虑，更不用因为身边人都在挤编程的独木桥就强迫自己跟风。也算是自己的碎碎念吧，也希望自己能在新的领域取得一点小成就。也祝牛油工作顺利!

1. 自我介绍2. 项目介绍3. 进程和线程的本质区别是什么，为什么线程切换通常更轻答案：进程是资源分配的基本单位，线程是 CPU 调度的基本单位。一个进程有自己独立的虚拟地址空间、文件描述符表、页表等资源；同一进程里的多个线程共享代码段、数据段、堆、打开的文件等资源，但每个线程有自己独立的栈、寄存器上下文和线程局部存储。线程切换通常比进程切换轻，是因为同进程线程切换时，不需要像进程切换那样频繁切换地址空间和页表，缓存和 TLB 的破坏通常也更小。但“轻”不代表没成本，线程切换依然涉及内核调度、寄存器保存恢复、可能的锁竞争和缓存失效。4. 进程通信方式有哪些，怎么选答案：常见的进程通信方式有管...