27实习字节多模态算法分享

感觉自己好菜、面试很难，还是要多多练习1.项目拷打2. CLIP 的 ViT 为什么必须 resize 固定尺寸？用动态的不行吗？3. PPO 是怎么训练的？有哪些模块？4.DPO 和 PPO 的区别呢？5. DPO 相比于 PPO 有哪些模型？6.GRPO 是怎么做的？7. DPO 没有 Reward Model 为什么也能做偏好优化呢？8.GRPO 的优势是什么？9.Transformer 里常见的位置编码有哪些？10. 绝对位置编码是怎么做的？11. 绝对位置编码相比于旋转位置编码（ROPE）的缺点是什么？除了外推性还有别的吗？12. 旋转位置编码（ROPE）是怎么做到相对距离的位置编码的？它的旋转是怎么做的？13. RMS Norm 跟 Layer Norm 的区别是什么？14. 为什么 RMS Norm 不用强制居中也能有比较好的效果？15.手撕 pow

Agent 与大模型开发相关详细展开复杂任务编排能力，具体是解决什么问题，做了一些什么工作？在什么场景下适合用简单的 Agent 去解决问题，什么场景下适合在 Agent 内部做复杂的链路编排？在复杂的 Agent 编排中，如何控制传递的上下文内容，保证既传递了有效信息，又不会因为传递过多而干扰大模型的注意力？Plan-Execute-Replan 模式相当于一个循环，如果问题一直不能解决，它会陷入死循环一直迭代吗？在实际使用中，有没有遇到过上下文窗口被撑爆（溢出）的情况？你是如何管理上下文窗口的？RAG 召回的内容和 Agent 提取的长期记忆（Memory）之间需要做什么划分？什么样的内容...

求字节国际化广告商业平台前端面经有没有佬面过这个部门，主要考察什么呀？求个面经😭

1.自我介绍2.sft阶段用的什么模型，数据来源，如何做数据处理，用的什么框架3.ppo如何做的详细介绍，包括数据，怎么训练奖励模型，每个模型的损失什么样子的，在几张卡上做的训练4.dpo训练流程，为什么 ppo 和 dpo 你都用了，有什么区别，有没有做对比试验5.怎么评估你微调之后模型有提升6.ppo为什么效果会比 dpo 强，怎么理解多轮 dpo 会有提升7.项目中创新点外代码中怎么实现的，详细讲讲，消融实验怎么做的8.clip训练原理9.深度学习相关知识，讲几种优化器10.讲 MHA 原理11.GRPO原理12.Lora原理， r 大小对模型训练的影响14.vit训练原理15.swin transformer 的原理16.qwen3快思考和慢思考的原理17.手撕📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。