字节大模型应用面经

1. GRPO 算是 on-policy 还是 off-policy？为啥？2. GRPO 用的数据不是最新的，为什么还算 on-policy？它的 buffer 是怎么回事？3. 重要性采样是干嘛的？公式长啥样？能解释一下吗？4. GSPO 和 DAPO 各自解决了什么问题？用了什么方法？5. 强化学习里的熵崩溃是啥意思？怎么解决？有必要解决吗？6. 熵崩溃是咋引起的？7. 熵崩溃和 reward hacking 有关系吗？8. 看过 DeepSeek 的技术报告吗？它在推理速度上做了哪些优化？或者说，模型层面有哪些加速推理的技巧？9. MLA 是怎么回事？能加速推理吗？10. Qwen3 ...

9.23 一面 20min自我介绍项目提问（主要是针对简历中大模型相关的项目提问，介绍项目流程以及主要的工作内容）技术提问：介绍一下ViT、说一下多头自注意力机制的原理和应用反问：业务？主要是用在物流场景、工业相机等，有目标检测、语义分割、视频解译等，大模型小模型多模态都会用到无手撕，很快就结束了，感觉面试官对我的项目经历不是很感兴趣，我主要是做的下游任务，可能是与他们大模型岗位不太对口，估计G了。。。

三面：项目：聊了一个简历上的项目，问了项目上的难点八股：这次八股也基本全都是场景题，面试官讲话不是很清楚。压力拉满了，导致有些题目忘了。1. 在一个文档中，如何筛选出对一个综合场景大模型的微调数据？2. 一个模型对prompt会生成多种回答，那么dpo 的pair数据如何选取？3. pair数据的reward model用什么损失函数训练？4.batch_size过大过小会怎么样，batch_size变化的时候学习率也要调整吗？5. 微调的时候7B和70B的模型哪个学习率应该更大？6.deepseek r1有哪些技术上的亮点？ 手撕：使用蒙特卡洛方法，判断一根绳子随机裁剪三块能组合成三角形的概...

📍面试公司：字节💻面试岗位：大模型❓面试问题：1. 拷打实习2. 简单拷打论文3. lora的含义以及初始化4. transformer的结构，encoder和decoder是怎么交互的，二者的mha有什么区别5. 问dpo有什么优劣6. dpo具体是怎么学习的7. 手撕 lc200