吴师兄大模型训练营 14周完整版

如题，单2硕，专业土木，目前只有这一个offer，薪资给了17k，对我来说已经挺多了，base西安，现在就担心它裁应届，其他的还好，害怕到时候干个几个月就把我裁了，有没有25届的入职的前辈说下情况，我应该不会在西安干很久，但至少得有一两年吧，先攒攒钱，再考虑转行找下一份工作

1.实习介绍2.展开讲一下在百度实习的工作3.实习工作具体是如何做的？4.具体探索过程是怎样的？5.想法是如何逐步优化的？6.介绍一下你了解的其他基于 MoE 的模型架构7.如果基于 MoE 的模型在训练时负载均衡不好怎么办？8.讲一下负载均衡的概念9.如何解决负载均衡问题？10.讲一下 DPO、PPO、GRPO 的区别11.如果在训练 DPO 的过程中，正例和负例的 loss 都在下降，该如何解决？12.讲一下 RAG 项目的亮点13.如果召回的答案不是想要的，该怎么处理？14.算法题：求根节点到叶节点数字之和（LeetCode 129，非 Hot100）

项目介绍+拷打1.每一步骤以后获得回答的变化，*在项目里sft和rlhf后大模型回答有什么变化，举例说明2.sft和 rlhf的作用有什么区别3.*sft如果用 dpo的chosen回答直接做sft的话还需要 rhf吗?八股1.sft有哪些方式?除了lora还有哪些?lora中为什么低秩矩阵是能够表示增量的?怎么初始化的?为什么要这么初始化?2.ppo、grpo、dpo(critic model和rewardmodel，哪个是未来价值，组内相对优势怎么计骎算，*如果组内差距大的话会对训练有什么影响?有没有佬说一下这个怎么答coding(二选一)1.手撕 transformer，输入一个矩阵然后输出经过transformer块以后的结果，不能使用torch，只能使用 numpy2.非 hot100 leetcode困难地下城游戏

手撕：反转链表时长：50分钟面试：1. 对于上一段实习过程中，遇到了什么问题，如何解决的2. 对于最后一个项目，RLHF中间遇到了什么问题，如何解决的3. 代码遇到问题，如何debug4. transformer中attention和MLP哪个参数大5. 了解过之前的NLP技术吗？BERT是怎么样的，跟大模型相比的优势6. 数据集多大，多少条手撕没撕出来，链表太久没写了，全忘了感觉面试官很注重实际问题的解决能力，很专业