大模型算法日常实习二面-字节

岗位名称：大语言模型算法面试时长：1h–1.5h自评分：8/10是否下一轮：是模型架构与基础原理目前主流大语言模型在架构设计上有哪些异同点？（追问）Decoder-only 和 Encoder-Decoder 在实际应用场景上有什么区别？介绍一下大语言模型中的注意力机制，多头相比单头注意力有何优势？（追问）如果减少头数会发生什么？是否一定性能下降？什么是大语言模型的涌现能力？目前对该现象的研究有哪些发现？（追问）涌现能力是否和模型规模线性相关？什么是 Embedding？词嵌入和句嵌入有何不同？（追问）Embedding 层是否会参与微调？为什么？大语言模型中的 Tokenization 是如...

有面试过同岗的朋友欢迎评论区交流1.  DPO 与 SFT 的区别：两者核心差异是什么？可以先做 DPO 再做 SFT 吗？为什么？2.  把 DPO 用在“第一轮对话”，你会如何构建数据集？`Prompt`、`Chosen`、`Rejected` 具体来源是什么？3.  多轮对话数据分布设计：单轮和多轮数据各占多少比例？这样配比的理由是什么？4.  DPO 多轮样本怎么采样：多轮样本如何采样？如何配比？5.  Reward Hacking现象：你怎么看待这个问题？怎么解决呢

1、LoRA 微调的原理LoRA 的核心思想是不直接更新预训练模型里的原始大权重，而是在某些线性层旁边增加一个低秩更新分支，用低秩矩阵去近似权重增量。假设原始权重是 W∈Rd×k，全量微调时直接学习ΔW，LoRA 则把它写成：ΔW=BA其中A∈Rr×k，B∈Rd×r ,，(r) 是远小于 (d) 和 (k) 的秩。这样前向计算就变成：h=Wx+ΔWx=Wx+BAx实际里通常还会加缩放项：这样做的本质是认为很多下游任务对大模型权重的更新其实存在低秩结构，不需要真的去学习一个完整的大矩阵。LoRA 的优点是可训练参数少、显存占用低、训练快，而且原模型参数冻结，方便多任务切换和权重管理。2、LoRA...

24年6-8月，我的大三暑假，在鹅厂pcg度过了一段难忘的实习时光。那年的面试很顺利，一共面了3家offer了2家，进了组之后同事们都很好，mt是我的校友，至今仍然保持良好关系。后来我放弃了转正机会，因为觉得保研名额来之不易，我觉得硕士毕业后一定可以有更好的工作，更高的工资。可是之后发生的一切却让我始料未及。一年半过去，我会的东西变多了，却从1月起再难以通过任何一家公司的一场面试。目前的我有客户端的实习经历，有后端的知识储备，有agent相关的项目履历，且因研究生阶段师兄带着做科研对大模型相关的知识也有一定的了解。力扣刷了500题，说多不多，说少不少，反正把hot100和灵神题单1700分以下的都做了遍。但为什么自己就是通不过面试呢？客观分析的话有自己不够专精某一方面的因素，每次面试刚开始被问一个点的时候刚开始还OK，面试官接着深入拷打，我就没啥办法了，临场应变能力也不行。说白了：BFS❤️；DFS💔。另外就是自己没有一套很好的学习体系，总是拆东墙补西墙，因为某次面试被拷打项目，就疯狂准备项目相关的知识，忽略了计算机基础，结果下周的另一场面试被面试官计网OS一通轰炸。说了这么多，聊聊我目前的状态吧。很多大厂最近都开放了春招实习的投递，我目前采取的是海投策略。这周的Timeline大概就是周四要再次征战鹅厂，wxg的面试强度想必大家都了解，我也没有抱希望能过，以学习为主吧。周六的团子笔试应该可以试一下，毕竟有两次机会，而且貌似团子不咋看笔试分数？蚂蚁也发了笔试邀请，但因为阿里系今年笔试的改革，打算观望一下第一场的情况再参加。对自己下阶段的期望，就是不要怀疑自身的能力，然后客观评估自己当前的水准，持续进步。感谢大家能看完哥们的碎碎念，祝各位牛友都早日拿到理想offer，我后面也会持续更新自己的面试记录，也欢迎大家来一起交流呀