1．项目介绍，过实习，讲论文，根据表述实时跟进询问交流2．讲一下大模型训练和推理的流程， SFT 和 RLHF 的作用分别是什么3．为什么探索 MoE 架构， MoE 相比 Dense 有什么好处4．有没有全量微调过5．推导一下神经网络反向传播的过程6．在 RLHF 中，目前主流的强化学习算法有哪几个，写一下损失函数的表达式7．一道排列组合的概率题8．平常有用过 RLHF 吗，简单介绍一下9. 开放题：对目前大模型的发展有什么看法10.代码：多头自注意力

小白同学终于迎来了期待已久的二面，然而滴滴面试官的这一问题却让他有些“破防”了。自诩略懂前端工程化的他，听到面试官问“npm install 之后究竟发生了什么？”时，陷入了沉默。小白同学：“…什么？”面试官微微一笑，并给出了最后的轻语😭：“那今天的面试就先到这里吧，好吧？”回到家中，小白同学决定好好研究这个问题，想弄明白“npm install 后，究竟发生了什么？他开始深入思考，阅读文档，最终发现了其中的奥秘——什么是npm？npm（node package manager），是随同Node.js一起安装的第三方包管理器。通过npm，我们可以安装、共享、分发代码，管理项目的依赖关系。嵌套...

1. MySQL的索引失效场景有哪些？2. Redis中ZSet的底层数据结构是什么？3. Java创建线程池的方法及核心参数含义；这些参数应如何设置，需考虑哪些因素？4. 主线程启动10个子线程后，需等待所有子线程执行完毕再继续运行，有哪些实现方式？（可使用CountDownLatch、Semaphore等）5. CountDownLatch的底层实现（基于AQS）；AQS的底层原理（state变量+CLH锁队列）。6. 自定义类存入HashMap时需注意什么？（重点说明Equals和HashCode方法的重写要求）；若只重写HashCode方法会出现什么问题？请举例说明。7. 电商下单场景要求时延小于10ms的比例达到N个9，从JVM调优角度如何优化？（如减少GC次数、选用STW时间短的垃圾回收器）；进一步说明减少FullGC次数的具体方法。8. Spring中@Transactional的失效场景及原因；若需在方法内调用本类其他事务方法（避免this调用导致失效），该如何实现？9. @Transactional的底层原理是什么？如何保证事务生效？10. Spring的AOP默认使用哪种代理方式？11. 设计消息队列中间件时，如何保证消息不丢失、不重复消费？若消息乱序到达，如何确保消费者按序消费？

1.实习项目介绍2.手撕InfoNCE损失函数3.绝对位置编码，RoPE和ALiBi三种位置编码原理4.手撕Transformer(写一个decoder block)5.手撕多头自注意力6.说一下DPO的原理和损失函数7.DPO和PPO的区别8.DPO阶段相比SFT阶段数据和模型分布的区别无leetcode手撕