滴滴日常实习 大模型算法面经

1、LoRA 微调的原理LoRA 的核心思想是不直接更新预训练模型里的原始大权重，而是在某些线性层旁边增加一个低秩更新分支，用低秩矩阵去近似权重增量。假设原始权重是 W∈Rd×k，全量微调时直接学习ΔW，LoRA 则把它写成：ΔW=BA其中A∈Rr×k，B∈Rd×r ,，(r) 是远小于 (d) 和 (k) 的秩。这样前向计算就变成：h=Wx+ΔWx=Wx+BAx实际里通常还会加缩放项：这样做的本质是认为很多下游任务对大模型权重的更新其实存在低秩结构，不需要真的去学习一个完整的大矩阵。LoRA 的优点是可训练参数少、显存占用低、训练快，而且原模型参数冻结，方便多任务切换和权重管理。2、LoRA...

攒人品中，祝大家都能拿到满意的Offer！1.lora微调原理2.P tuning3.强化学习 ppo grpo4.prompt 微调5.attention结构6.gpt12的结构7.Deepseek r1 训练四个阶段8.Encoder only decoder only 区别9.Llamma12的结构10.Deepseekv2 v3 r1 r1 zero的结构和训练过程11.探讨moe技术细节以及未来发展的困境

大佬们看看，简历是否合适。（两个项目的“主要工作”写的很粗糙）然后还有一个问题请大佬们支支招... 我想走大模型相关岗位，但没想好去算法还是开发。算法岗肯定是首选，主要是怕我的项目经历跟算法岗离得远找不到实习。请大佬们给给建议

1、TCP三次握手四次挥手2、TCP 第三次握手的 ACK 丢失3、四次挥手客户端发送FIN后没有收到服务端的ACK，怎么处理4、讲一下jvm内存结构5、java程序中，如何利用栈、堆、元空间、程序计数器、本地方法栈提高性能6、频繁fullgc，响应明显变慢，你怎么解决7、sql查询优化的常用方法8、索引覆盖怎么提高查询效率的9、什么情况下索引覆盖可能会不适用或者效果不明显？比如查询场景或数据特征会限制索引覆盖的优势10、设计在线学习平台，如何管理章节课程用户进度11、设计这个系统选择什么类型的数据库合适，为什么？12、如何确保数据的一致性和完整性13、生成结果做缓存，以省钱提速，哪些可以命中缓存，哪些不适合缓存，缓存该如何设计才能兼顾命中率和安全性，如何处理缓存污染和失效14、关于缓存 Key 的设计如何提高命中率，同时保证安全性15、处理缓存失效会采用哪些策略