字节-NLP算法工程师-日常实习一面凉经

是数据中心sre，总体来说压力很大。中间有许多施压的问题。全程面试官眉头紧皱。刚刚开始时候一直抓住我的一个实习细节去问。我就算往我擅长的别的实习和项目上去引，他还会继续追问我不熟悉的实习经历细节。后续的一些关于分布式的知识我都是可以答上来的，也算流畅。最后没有写算法题！！！（这个是不是意味着我已经挂掉了）最后我问的面试官给个建议：他说：你的实习经历要写关于你自己一个人的产出，而不是你参与的产出。其他就没啥建议了。

1. 项目和八股介绍一下你做的这个项目为什么没有用 nsp，只用了 mlm分析一下transformer训练过程中显存占用和计算复杂度- 优化器 参数 梯度- 面试官说到：激活值也需要保存  训练过程中怎么去做到对激活值的显存占用，有什么参数可以进行控制 （答了混合精度，面试官说不对- 激活显存 ≈ `batch_size × seq_len × hidden_dim × n_layers × bytes_per_element`- 设置bs相关，也就是使用梯度检查点（Gradient Checkpointing），将大的bs分割成小的micro-bs来计算，最后进行一个统一PPO DPO GRPOclip可以限制分布差异  还有哪些方法KL 散度公式2. 手撕给定两个叶子节点，在二叉树中找到两个节点的最近公共祖先，空间复杂度要求o(1)。每个节点存在指向父节点指针

1.介绍下self-attention，计算其时间复杂度。2.为什么要用multi-head attention？3.PPO的clip机制？在线强化学习和离线强化学习有什么区别？RLHF是哪一种？4.为什么要用reference model? 为了解决什么问题？5.如何让多个agent协同工作的？举个具体的协同机制例子。6.如果一个agent误判导致策略冲突，如何处理？7.有没有用到类似AutoGen或LangChain的框架？为什么选这个框架？8.你是怎么设计agent的记忆系统？9.长期记忆如何存储？如果历史记录量非常大，怎么优化查询效率？10.你怎么处理响应速度与推理精度之间的tradeoff？是先召回再精排，还是单次生成？📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

1.实习介绍2.防止 sft 灾难性遗忘你有哪些方法？3.sft 和 rl 区别是什么？数据格式有什么区别？4.Reasoning 推理过程有做什么 rl 吗？有哪些奖励？5.rl 有哪些算法？reward 常见的有哪些任务？6.为什么现在不用 reward model？区别是什么？7.PPO 模块介绍一下，公式说一下？critical model 什么作用？8.DPO 公式介绍一下，和 sft 有什么区别？9.GRPO 少了哪些模块，如何在 GRPO 基础上防止模型波动？10.介绍位置编码，PE、ROPE，现在常用哪些？为什么现在模型上下文只到 128K，如果是你你会做哪些改进？11.高效推理了解过吗？如何做到高效推理？你知道哪些方法？12.Lora 是什么？初始化讲一下？是否能对换？还有哪些变体？13.KL散度作用是什么？推一下公式。如果是确定标签，那会有什么变化？从数学原理解释13.编辑距离，用 n 的空间复杂度，如果我要打印编辑路径，你会怎么改，在哪个地方改？基本全答上来了，手撕也很快，实在不知道为什么挂了