拼多多工作2年的真实体验

继续来分享下之前的面经~欢迎友好讨论，信息共享1.项目拷打2.SFT训练trick和问题3.lora的使用 原理 目的4.对大模型推荐的了解5.场景题 zero shot模型的使用6.一个对物理完全陌生的数学模型，如何能直接用来解物理题，从后训练和rag两个方向聊了聊。7.传统检索的方式8.Rag的作用 实现流程9.手撕 一个链表，使他首尾交替出现，例如1 n 2 n-1

攒人品中，祝大家都能拿到满意的Offer！1.项目拷打2.二元交叉熵3.常用的深度学习api4.VIT结构5.分类模型6.堆的数据结构7.手撕力扣中等题排序问题

面试很难，还是要多多练习，攒人品中！1.讲一下为什么先cot后answer的情况下，越往后token的prob越高？2.用大模型蒸馏的cot很多噪声怎么办？3.对VLM做SFT，发现模型对文本信息更置信，看图片的时候反而会产生幻觉，怎么办？RL相关1. PPO中GAE的公式，如何递归计算每个token的优势？2. DPO的loss公式？3. GRPO和PPO有什么区别？GSPO和GRPO又有什么区别？4. RL中的熵塌缩和reward hacking遇到过吗？两个问题都有什么改进方法，最近有什么新论文提出了改进方法？5. 在组内采样类型的RL算法中，on-policy rollout不出正确答案怎么办？6. 知道Self-Distillation吗，为什么要做，最近这方面有哪些论文？7. RL过程中reward或者loss震荡严重，怎么办？

【一面】 1）介绍一个最能代表自己的项目2）项目里负责的边界是什么？哪些内容是亲手实现／验证的？3）电商领域预训练数据：低质过滤与去重会怎么做？用哪些简单指标快速判断数据质量？4) Pretrain 和 SFT 分别解决什么问题？5) Transformer 的基本结构怎么理解？6）多模态模型的大致结构是什么（图像编码器+连接层+ LLM )？最容易踩坑的点通常在哪里？7) SFT 数据如何更贴近业务：如何避免过度模板化？如何做基础的 train / test 去重来避免评测失真？8）对齐（ RLHF / DPO 等）整体思路是什么：为什么需要偏好对／奖励信号？【二面】1）做过的最有影响力的一件事是什么？具体推动了什么变化？2）训练不稳定怎么排查（ loss NaN 、 OOM 、吞吐下降）3) Long Context 常见思路有哪些？在业务里如何做"能看长文本但不太贵"的折中（摘要／分段／滑窗等）?4）如何做一套简单可执行的离线评测集？如何覆盖不同语言与类目？5）多模态场景怎么评估：如何检查"图文一致性／不编造信息"？优先加哪些自动化检查？6) Prompt ／模板如何管理：如何版本化、如何回滚、如何避免一次改动导致整体波动？7) 手撕：实现一个最简单的 top - k 采样（给定 logits ／概率，取 top - k 后重新归一化采样），并说明边界情况怎么处理。📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。