近期面试体会总结

1.八股：一个7B参数的大语言模型，在训练和推理时分别需要多少显存？影响显存占用的关键因素有哪些？2.八股：SFT 阶段，7B 和 70B 模型的学习率设置通常有何不同？背后的原理是什么？3.项目：DPO 训练过程中，你会重点关注哪些评估指标？为什么？4.项目：训练一个基于 pair 对的 reward 模型，loss 函数怎么写？如果是非 pair 形式（只标注最优 response），loss 又该如何设计？5.项目：DPO数据构造中常出现正负样本不均衡问题，你有哪些解决方案？6.项目：用DPO缓解幻觉时，如果反而引入了新的幻觉，可能是什么原因？7.项目：DPO中的beta参数代表什么？过大或过小会带来什么影响？8.项目：你在微调时是否观察过不同层的梯度差异？9.项目：不同参数高效微调方法（如 LoRA vs Adapter）在你的任务上效果对比如何？

哈哈哈，虽然我没提过离谱的要求，但是见过最离谱的莫过于某些博主，精心策划引导AI说出涉政或歧视等敏感问题。AI再怎么智能博学，终究还是逃不过人类精心设计的陷阱

秋招无形的压力，从研究生入学的第二天就开始笼罩在了我的身上。我是两年制的硕士，研究生刚入学，恰好第二天华为就到学校宣讲，在老师的建议下听了宣讲会。会后，一大堆词汇涌入脑中：实习、秋招、开发、算法、部门、方向……我开始迷茫，我该怎么规划我的秋招？首先是方向问题。我是两年制的专业硕士，不具备发论文的条件，理论上来说算法这条路是堵死了。但我想了想本科的一些经历，从大二起就在做深度学习的相关项目，大四发表了一篇SCI，这么些内容不用实在有点浪费；硕士期间在组里做的横向项目也是计算机视觉算法相关。最关键的是，开发的那一套内容和八股我是一点不会。在深思熟虑了一个月后，我还是决定俯冲算法。要走算法的话，没有顶级论文就只能去搜广推了。此时我又遇到了困难：研一期间导师不放实习。其实学院有很多放羊的导师，偏偏自己选择了这个只放暑期实习的导师。当时真的很焦虑，因为身边的朋友都是做后端开发的，不断劝我转开发；往届实验室的专硕都是走的开发，没有能参考的案例。那段时间很煎熬。一边做实验室的项目，一边自己自学搜广推的知识。身边的同学有的一入学就跑路出去实习了，有的已经找好导师做科研准备读博了，自己想做算法还在前途未卜，身边的同学和实验室的师兄师姐全是清一色的劝退。南京的冬天很冷。在２０２４年寒冷的冬天里，我感觉前途就像风中的梧桐叶一般渐渐凋零，随风飘散。我研一期间没有任何一段日常实习，直接就要面对暑期实习的巨大竞争；我研一期间没有发表任何论文，实验室的横向项目没有一个能写到简历上。选择走算法这条路，或许真的是我人生选择的一次寒冬。我知道我要抓紧时间了。整个寒假我学习了很多内容：王树森的推荐系统课，深度学习transformer的八股，大模型的RAG和微调，天池新闻推荐等。我现在已经记不起春节是怎么过的了，我只记得寒假回家后的一个夜里，老爹问我大晚上怎么抱着电脑发笑，我说GPT真是天才，被BERT超过后还能想到把BERT大力出奇迹的思路借鉴过来，还真让GPT力大砖飞成功爽到了。寒假结束回学校已经是２月中旬，暑期实习的招聘陆续开了。我做完了天池新闻推荐的项目，改好了简历，开始了暑期实习的疯狂投递。暑期实习超乎我意料的顺利，7天速通美团的广告算法，后续又拿到了腾讯广告的offer。多方考虑后，最终还是选择了腾讯广告，鸽了美团的入职（代价是美团秋招直接拉黑了我）。腾讯的转正率并不高。经过了一番蠕动，最终仍然转正失败。我原以为有了腾讯的实习经历，秋招也会像实习一样顺利，可是我错了。算法岗位的实习和秋招简直是两个天地，秋招阿里系直接给我简历挂；字节总是一面或者二面就挂，问就是候选人中有更加优秀的，不再推进流程。我被美团拉黑了，秋招根本不捞；京东我投递太晚了，一直泡在池子里。从10月中旬开始，我的面试变得零零星星，机会也越来越少了。秋招时算法的hc还是太少了，而竞争者实在是太多。现在的搜广推，要么有两段及以上的大厂实习，要么有大厂实习+A会，早已不是一段大厂实习就能够畅行无阻的时代了。在这里要感谢拼多多。在所有的互联网大厂中，只有拼多多稳步推荐流程，最终发给了我一个保底的offer。这个秋招让我认识到，我当前的简历和水平仍然不够，至少还需要一段大厂实习才能够去碰一碰BAT的搜广推岗位，可是我已经没有热情去做搜广推了。在腾讯的实习中，我发现广告算法用得更多的是策略，大部分人去搜广推也是在写策略，想做召回/精排模型还要更强的背景和一定的运气。拼多多最终开了一个大包。算了算总包，如果真在拼多多干个三年，税前年薪百万或许也不是梦。而就在拼多多开奖的那一天，华为也打来了oc电话。华为的业务是LLM，方向是好的，base地也是好的，就是开得比拼多多低太多了。经过了一段时间的纠结，我想明白了，比较是无休无止的，要问自己的心理预期——抛开其他offer，华为的这个价我是能接受的。因此，我拒了多多，签了华子，秋招结束。回首整个秋招，我就是算法大军里面很普通的一员，四处碰壁，和大佬offer打牌形成鲜明对比。最终凭借一定的运气拿到了一个满意的offer，也算对当初执着走算法道路的自己有了一个交代。我有时候也问自己，到底是什么支持我走下来算法道路呢？我的回答是认清自己的定位。作为算法候选人，有效的背景无非就是院校／实习／论文。三者有其二，最终就算拿不到大包，也不至于找不到工作。因此，如果你也处于一个迷茫的时期，不妨多方面确认一下自己的定位，心里有底就不会盲目。雄关漫道真如铁，而今迈步从头越。

八股 1. Llama的Decoder结构、位置编码有什么改进？2. 三角函数位置编码和ROPE的区别？他们是怎么实现不同的功能？3. 介绍一下RLHF流程，包括哪几步4. llm有哪些评估指标？如何评估模型？5. lora原理细节，为什么可以加速？什么是秩？6. 介绍下Reward model7. dpo训练的损失函数和训练目标8. 不做DPO，只做SFT可以吗？9. Deepseek中SFT冷启动了解吗？手撕10. 给定长度为 n+1 的数组 nums，其中元素取值范围为 [1, n]，求唯一的重复数（力扣287）。11. 手写多头注意力MHA。