字节算法面试记录

⭕如果你现在：- 春招/秋招没方向- 简历没人看- 面试总挂- 不知道怎么准备📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

1. 大模型相关经历深挖：你项目里最核心的贡献是什么，怎么验证有效2. 对比学习 loss：负样本和正样本拉不开/太像了，你会怎么改损失或采样3. FlashAttention 跟普通 attention 的差异？实现里 QK^T、softmax、PV 这几步怎么落4. 3D 并行里 DP/DDP 你怎么理解；实际落地时通信瓶颈一般卡在哪些环节5. 14B：FP16 权重大概多大；训练还要加哪些；INT8 大概能省多少6. torch.contiguous() 干嘛的？推理为什么在意连续性7. 代码：读 txt 井字棋（3×3），判断当前玩家是否获胜8. 交叉熵损失：解释/怎么写9. 线性回归用 SGD：更新公式怎么推/怎么写⭕如果你现在：- 春招/秋招没方向- 简历没人看- 面试总挂- 不知道怎么准备📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

工程类偏多🏓1. dpo 和 sft 的区别，先 dpo 后 sft 可以么2. 如果把 DPO 用在“第一轮对话”，你会怎么做数据集？prompt、chosen/rejected 你打算怎么来3. 多轮对话的数据分布你会怎么设计：单轮和多轮各占多少，为什么这么配4. 具体到 DPO 数据，多轮样本你会怎么采样/怎么配比（有没有什么坑）5. reward hacking 你怎么看？一般怎么防，怎么兜底⭕如果你现在：- 春招/秋招没方向- 简历没人看- 面试总挂- 不知道怎么准备，想求职算法岗的同学，需要进行高质量项目辅导，提升面试能力，☎欢迎后台联系。

1.介绍一下 DPO , PPO , GRPO2.介绍一下奖励函数的坍缩现象和问题3.离线强化学习和在线强化学习了解么？你的项目里是哪种？4.代码:onehot100的2d接雨水5. GRPO 公式？为什么公式里面 clip 了外面还要计算一次 mean 呢？6.讲讲qwen2.5vl, llama7.多目标优化奖励函数冲突，8.介绍一下 QKV 的计算？9.手撕MHA📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。