个人背景：双9，0对口实习+0对口论文，2月中下旬投完小论文后，由于自己本身没有太多大模型的经验，一直在纠结是做传统NLP/搜广推/大模型，甚至是开发。在纠结思考了很久，综合牛客+xhs各路dl的建议后，决定全力梭哈大模型。准备过程2月中下旬开始准备大模型八股+刷力扣，目前力扣300题左右，八股找了一些大模型资料看了一遍之后，3月中下旬开始大规模海投。投递记录OPPO：大模型算法岗，3.7投递，一直在初筛阶段；蔚来：大模型应用研究岗， 3.9投递，一面 + 二面后OC已拒；腾讯音乐：技术研究—自然语言处理（TME没有专门的大模型岗），3月初投递，一面 + 二面 + 三面 + HR面， OC；美...

4.9下午 一面 面完十分钟约二面4.11下午 二面二面流程：1. 自我介绍2. 拷打项目，主要是针对项目细节以及方案距离落地还有哪些需要考虑的地方，四十分钟3. 手撕类似螺旋矩阵感觉面的很好，希望团子给个offer这几天等的太焦虑了4.15 更新 已oc

继续贴一下整理好的面试记录😬面试问题：- MLA是怎么做的？为什么它比LoRA快？同样是低秩分解，为啥推理时LoRA慢而MLA快？- LoRA算法是怎么工作的？它的参数是怎么初始化的？你觉得它有什么缺点？- 能介绍一下Flash Attention吗？它是怎么做到既省显存又提速的？- 能聊聊你在阿里做的工作吗？RM的MoE结构为什么这么设计？参数量大概是多少？- 提升模型的推理能力和指令跟随能力，哪个更难？为什么？优化指令跟随能力的方法和优化推理能力的方法有什么不同？- RLHF的幻觉实验具体是怎么做的？能详细说说实验步骤吗？代码题：- 用np手撕beam search，我大概写了下实现，比如怎么办理beam中的序列，怎么计算新序列得分，这个确实抽象了（既然遇见了，有时间还是准备一下吧）还有需要注意的是，在面试的时候，进入飞书会议后，不要切换后台！不要切换网页！不要切换窗口！只要切换了，就会被检测到（字节面试官亲自提示过😭

分享面经，积攒好运🙏一面见之前的帖子3.10二面（过）自我介绍你们实验室做什么项目？你这个用布隆过滤器替代分布式锁访问数据库提升QPS的，介绍一下Redisson的底层是什么样的？你这个短链接是怎么生成的？有没有了解过别的生成算法开放题：我现在要提升你这个系统的QPS，你怎么从0开始设计？你说加机器，那你数据库支持水平拆分吗介绍一下这个ShardingSphere的原理？你有没有了解过逻辑sql怎么转真实sql的？ShardingSphere支持自动迁移数据吗？如果我使用了order by，那ShardingSphere会这么处理？查32个表吗？讲一下你认为的项目亮点你说一下这个读写锁的应用场景，我感觉不需要啊？Redisson这个读写锁是什么原理你知道吗？如果我发一个消息到MQ，十分钟后才被消费，怎么办？期间分组被改了怎么办？你这个RPC介绍一下你介绍一下这个自定义协议，为啥要自定义协议？头部有哪些字段？你用的什么网络框架？你知道netty是哪种网络模型吗？阻塞/非阻塞？同步/异步？Socket用过吗？说一下系统调用是什么？MySQL索引为啥用b+树？redis单线程，为什么还这么快？大模型用过吗？除了工作部分，还用大模型做些什么？手撕：布隆过滤器3.13三面（挂）自我介绍你的项目的技术难点在哪里？你数据表是怎么设计的？表里的索引怎么设计的？缓存空间有多大（？）你怎么统计用户的访问数据？用消息队列？消息队列会阻塞吗？就是满了怎么办？（？）短时间内大量请求打满消息队列怎么办？（答了扩容+加消费者）如果是集群，负载均衡你会怎么设计？讲一下一致性哈希讲一下你这个重试策略数据库热点问题你怎么解决？慢sql问题你怎么解决？你分析过慢sql吗？explain？我设计的系统如果想接入微信扫码登陆，你会怎么做？了解过微信支付宝的授权登录协议没有？手撕：sql：抖音活跃用户分析（完全没准备sql，写的一坨）手撕：128. 最长连续序列