1．自我介绍，过实习和论文2．知道哪些强化学习算法，除了 PPO和 DPO 这些呢3. 知道 LoRA 的原理吗， A 和 B 两个矩阵怎么初始化，有了解过其他的初始化方法吗4．除了 DeepSpeed ，还用过其他的什么优化方法吗5．ZeRO -1, ZeRO -2,ZeRO -3三个模式的区别6．讲一下 RLHF 的流程，之前有用 RLHF 做过模型对齐吗7．当时你用 DeepSpeed ZeRO -3来微调Qwen2-72B，每一张卡占用的显存大概是多少，估算一下为什么是占这么多的显存8. 在微调 Qwen 的时候，数据是怎么构造的9.代码：无重复字符的最长子串

1、实习介绍2、聊项目3、ppo dpo grpo区别4、reward获取方式分别是什么5、rag怎么解决模型幻觉6、为什么做nlp7、clip训练方式？temperture的作用8、算法题：三数之和9、反问(做文心一言coder模型预训练的)

实习介绍——5min项目相关细节提问——5min1. 了解 DeepSpeed 吗？训练时用 ZeRO 优化主要是解决啥问题？ZeRO 的三个阶段分别都是啥？2. TP 或 PP 了解吗？3. 并行训练时，如果模型参数量不大，怎么决定用 PP 还是 TP 策略？它们各自有啥好坏？4. 如果用 TP=2 的策略，self-attention 层里的 QKV 矩阵具体是怎么切分的？5. 用 TP 的时候，主要会发生哪些通信？不同的切分方式会改变通信行为吗？举个例子呗。6. 讲讲 Flash Attention 的原理，矩阵 tiling 的过程说细一点，最好把 shape 也讲清楚。手撕算法：经典接雨水+最长上升子序列

1.介绍下transformer的结构2.如果微调模型出现复读机现象，是什么原因3.如果微调效果不好，怎么去分析4.能不能讲一下你对function call的理解5.问答系统上线，从query到生成回答，花多少时间6.Agent工具调用你知道怎么训练吗，训练集应该包含哪些，怎么得到训练的数据集7.假如一个query有两个工具可以调用，训练集应该怎么设计8.你构造数据集遇到过什么难点，如何解决问题📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。