面经：分享投递Keep算法实习生（已OC）

📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

腾讯-混元大模型面经-华5硕部门与岗位：TEG - 混元大模型团队 - 大模型对齐一面自我介绍，过实习，讲论文，论文过的比较细，有说的笼统的地方面试官会实时进行询问交流了解哪些大模型，简要挑一两个介绍一下，当时说了 Qwen 和 DeepSeek，然后面试官又问了这两个有什么区别接着上一问，为什么大家都开始探索 MoE 架构，MoE 相比 Dense 有什么好处在之前实习的时候用 LoRA 微调过 Qwen，于是问了有没有全量微调过，有没有对比过两者的性能表现讲一下大模型训练和推理的流程，SFT 和 RLHF 的作用分别是什么在 RLHF 中，目前主流的强化学习算法有哪几个，写一下损失函数的表达式代码：22. 括号生成代码：多头自注意力一面问的八股还是比较多的，问的也比较细，而且还写了两道代码题，整个面试花的时间也比较多，大概一个半小时左右二面自我介绍，过实习和论文，面试官会一起进行探讨，包括工作的动机、贡献和结果，也会提一些问题和建议之前实习用 DeepSpeed 微调过 Qwen2-72B，于是面试官问了 ZeRO-1，ZeRO-2，ZeRO-3 三个模式的区别当时你用 DeepSpeed ZeRO-3 来微调 Qwen2-72B，每一张卡占用的显存大概是多少，估算一下为什么是占这么多的显存除了 DeepSpeed，还用过其他的什么优化方法吗我看你也用到了 LoRA，知道 LoRA 的原理吗，A 和 B 两个矩阵怎么初始化，有了解过其他的初始化方法吗对 RLHF 了解的多吗代码：3. 无重复字符的最长子串二面更多的是结合具体的工作来问的，从用到的东西来引出问题，问的也比较灵活。当然因为部门主要是做对齐的，所以也大概聊了聊 RLHF三面自我介绍，挑一个觉得做的比较好的论文和实习讲一下，面试官问的比较详细，为什么选现在这种方案，为什么 work，其他方案有考虑吗在微调 Qwen 的时候，数据是怎么构造的，有用到什么数据清洗方法吗，数据配比是怎么做的讲一下 RLHF 的流程，之前有用 RLHF 做过模型对齐吗在做对齐的时候，为什么 SFT 之后还要做 RLHF，只用 SFT 可以吗知道哪些强化学习算法，除了 PPO 和 DPO 这些呢，DeepSeek 用的 GRPO 相比于 GPT 的 PPO 做了哪些改进开放题：对目前大模型的发展有什么看法代码：零钱的两个题 322. 零钱兑换518. 零钱兑换 II三面面试官更聚焦于对齐这一块的内容，考的比较深。由于之前没有接触过强化学习，答得还是比较吃力的，不过面试官还挺好的，会一起讨论来做引导四面自我介绍，过论文和实习，问的也比较细，这里能明显的感受出来面试官的视角更系统，会把这些工作串起来问我看你简历上没写 RLHF，平常有用过 RLHF 吗推导一下神经网络反向传播的过程一道排列组合的概率题开放题：你觉得大模型目前还有哪些可以改进的点四面整体更看重思维和基础，没有考察什么八股总结一共四轮技术面，整体来说强度比较大，对于大模型八股的考察比较细，对大模型的理解问的也比较深刻，包括一些数理逻辑基础，考察的比较全面腾讯-混元大模型面经-华5硕-主页内tui腾讯2026校园招聘技术研发提前批专项，报名启动面向对象：毕业时间在2025.1.1~2026.12.31期间的同学开放岗位：前端、移动端、PC端、游戏端、测试开发、技术运营等招聘项目选择：【人才专项-技术研发提前批】，截止时间：8月5日。技术研发提前批专项面试未通过，不影响后续参加常规应届生招聘。专项优势：-更大几率发起面试，投递即进专项简历库-更快流程推进，先人一步拿到正式offer-更高offer成功率，大前端、测试开发等热招岗位需求多多内推链接：https://join.qq.com/resume.html?k=ANQI6RfQ3rhPS2dpyIkeSw（内推简历优先筛选，加速流程推进）

混合云异构计算工程师工作职责-建设业界领先的AI异构算力容器平台，提供 高性能、高稳定性、高易用性的百舸产品，支持AIGC、智算中心、金融-结合 SOTA 模型训练推理优化原理，深入模 型结构与设计思路，将训练推理优化手段工程 实践化，为客户提供系统性加速方案，提升训 推效率-在自研芯片上适配常见大模型，结合深度学 习训推框架特性，开发或调优相关算子，提升模型在芯片上的性能和精度表现，辅助客户进 行芯片选型和应用-针对大规模异构集群场景下，探索训推任务 管理、异构资源调度、虚拟化混布、容器存 储、高性能网络、分布式训练和推理等技术的 创新和应用-探索业界最新技术方向，参与机器学习框架 等开源社区，提升百度混合云AI核心竞争力任职资格-本科及以上学历，有一定程度的计算机相关 专业知识背景-优秀的编码能力，熟悉Golang/Python/ Java/C/C++至少一项，有扎实的算法及数据 结构基础，有良好的编程习惯。-熟悉PyTorch,了解Megatron、 DeepSpeed、vLLM、SGLang等大模型训推 框架，做过测试、开发等工作。-对GPU芯片架构有一定了解者优先，熟悉 CUDA、OpenCL等高性能计算编程经验优先，有大规模训练推理实践经验者优先-具备推理优化的深度实践经验优先： FlashAttention、PD分离、专家并行、负载均 衡、模型压缩（蒸馏/量化）、缓存策略、异 构计算加速-具备训练优化的深度实践经验优先：分布式训练、显存优化（如Zero/Offload)、计算通 信Overlap、混合精度、MoE架构调优-熟悉Kubernetes工作原理，熟悉调度器、资 源扩展机制、容器运行时、容器网络等技术， 有Kubernetes开发和维护经验优先-有独立的分析问题和解决问题的能力，有强 烈的责任心，较强的学习能力和沟通能力