1.实习介绍2.展开讲一下在百度实习的工作3.实习工作具体是如何做的？4.具体探索过程是怎样的？5.想法是如何逐步优化的？6.介绍一下你了解的其他基于 MoE 的模型架构7.如果基于 MoE 的模型在训练时负载均衡不好怎么办？8.讲一下负载均衡的概念9.如何解决负载均衡问题？10.讲一下 DPO、PPO、GRPO 的区别11.如果在训练 DPO 的过程中，正例和负例的 loss 都在下降，该如何解决？12.讲一下 RAG 项目的亮点13.如果召回的答案不是想要的，该怎么处理？14.算法题：求根节点到叶节点数字之和（LeetCode 129，非 Hot100）

1.实习介绍2.critique mode 怎么训练的，会不会存在 bias3.介绍下 RLHF 流程4.BN和 LN 的区别， BN 在训练阶段和推理阶段有何不同5.如果让你用 llm 做一个商品类目识别的项目，你会如何设计6.介绍下 transformer , attention 的细节和 mlp 的作用7.deepspeed的原理8.了解 dp 和 ddp ，介绍一下原理和异同9.在 nlu 任务上，你觉得 bert 和 llm 哪个效果会更好，为什么6.介绍下 RLHF 流程7. deepspeed 的原理8.了解 dp 和 ddp ，介绍一下原理和异同9.如果让你用 llm 做一个商品类目识别的项目，你会如何设计10.快排的思想，时间复杂度11.代码题: code ：手写一个多分类的公式，并用代码实现

1.介绍自己的项目2.BLEU和ROUGE3.self-attention求内积时为啥除以根号d4.LLM的评估5.介绍下simCSE6.解决tokens不够的问题应该怎么办7.详细介绍下deepspeed（三个stage结合参数回答）8.gpt和llama的区别（模型结构上的）9.PEFT的方式，LORA论文讲一下，对比p-tuning10.LLM训练的时候为什么warmup11.对比学习中的batch size是大一些好还是小一些好（大一些，甚至可以到10k+，为12.了构造好的negative样本）13.了解最新技术一般怎么通过什么渠道14.代码题：lc347 前 K 个高频元素

1.实习介绍2.DP和DDP区别3.介绍Qwen-lmaget4.wan2.1、wan2.2、cogvideox.hunyuan的结构差异?你觉得哪个结构更好?5.LORA一般加到哪?rank设置有没有技巧6.人脸编辑模型的数据清洗怎么做的?怎么确保的良品率和误杀率?在什么样的机器上进行的7.你认为决定现在基模能力的方面有哪些?8.Deepspeed的三阶段zero简单介绍一下9.手撕:casual-selfAttention