1.项目介绍2.讲一下简历里的经历3.针对我说的实习经历进行提问4.手撕DAPO，没写出来，我说了下loss计算，然后让我打开论文对着公式详细讲一下，并提问clip的作用5.用GRPO训练moe模型经常效果不好，为什么?6.面试官投屏了一篇论文的intro，让我讲一下其他还有些是针对经历里的数据构建、训练细节和怎么评测的，没啥参考意义就不放出来了反问:1.复述了下我理解的一面面试官所讲的部门业务询问有没有补充，然后问了有哪些具体场景

开场（物流与背景）：“现在还是在正常上课中是吗？”“大概是能实习有半年...是吧？”“你我看你自己之前是做过一些开源社区的事情是吧？”深挖开源实践（考察工程能力）：“你能大概介绍一下这个是个什么样类型的一个项目吗？”（评估你的项目经验广度）“...有有在哪些业务上面去进行测试吗？”（考察你是否只是“玩具项目”，是否具备工程落地能力）考察 AI 工具链（考察效率）：“你在这个扣定的时候，有用过 AI 做一些辅助的（吗）？”考察核心 AI 架构（压力测试）：“...agent...处理复杂任务的时候...会出现一些幻觉跟遗忘问题。这个一般怎么去解决...？”（考察你对 RAG 核心痛点的理解）“....

1.实习介绍2. Lora 原理(核心是低秩分解:将原始权重更新近似为两个低秩矩阵乘积，减少参数量，保留主导方向，训练高效)3.了解 DeepSpeed 吗，ZeRO -1, ZeRO -2和 ZeRO3分别做了哪些优化(1优化优化器状态，2优化梯度，3切分参数，全面节省显存)4. Qwen的模型结构是怎么样的，相比于 LLaMA,DeepSeek 有什么区别(Qwen采用GQA+SwiGLU+RMSNorm，和LLaMA架构非常相似，差异在训练数据和tokenizer中文支持更好;DeepSeek只用MoE/MLA架构，Qwen系列主要是Dense模型)5.怎么缓解大模型的幻觉问题(RAG，RLHF对齐，事实监督)6.大模型的 MoE 结构相比于 Dense 结构训练的难点在什么地方，DeepSeekMoE为什么效果好，有什么值得我们借鉴创新点(MoE面临负载不均衡、训练不稳定问题;DeepSeekMoE通过细粒度专家和共享专家设计提升稳定性和效果)7.知道FP16和BF16有什么区别吗，包括FP32和INT8这些，在训练大模型的时候，应该怎么选择(FP16精度高但易溢出，BF16动态范围大;训练常用BF16混合精度，推理用INT8量化加速)8.讲-下 RLHF 的流程，写-下 PPO和 DPO的 Loss表达式(训练奖励模型后用PPO/DPO优化策略:PPO Loss: policy ratio + KL 约束/ DPO Loss: logit preference diff + sigmoid binary loss)9.对于超长上下文业界一般是怎么做的，你知道 Qwen是怎么做的吗(业界常用ROPE 变体/滑动窗口注意力/稀疏注意力等:Qwen使用YaRN和窗口注意力扩展上下文)10.开放题:你觉得目前大模型的上限在哪里(推理能力、长期记忆、具身交互和能耗效率，需要架构创新和多模态融合突破)11.代码:152.乘积最大子数组

有一些些一言难尽吧，只面了30多分钟希望能过二面面试官竟然给我过了，谢谢你