7min小厂面试

自我介绍了解 DeepSeek-R1 吗？介绍一下？R1 的 MLA 是如何实现 KV-Cache 的节约R1 在 SFT 时冷启动的目的位置编码是什么？解释 ROPE？一个 14B 的模型，推理和训练要多少缓存显存的占用和哪些因素有关大模型灾难性遗忘是什么？如何解决？BF16、FP16、FP32 对比？Adam、AdamW 原理deepspeed 的三个阶段自我介绍手写 Self-Attention 公式，解释 Q/K/V 的作用位置编码有哪些实现方式？相对位置编码相比绝对位置编码的优势？LayerNorm 和 BatchNorm 的区别？为什么 Transformer 用 LayerNor...

做梦

前情提要：百度提前批Java岗总结：感觉我的实习经历和技术栈都和该组不太匹配，感谢百度给的面试机会吧，就当练练手了。百度7.30三面（原定于 7.23，但是被发邮件通知推迟了一周）0、面试官准时上线，但是说在开会，所以等了10分钟（没开摄像头）1、拷打项目经历，大概9分钟（一个点，问的很深，追问了很多内容。比如说C++运行内核需要哪些库？JDK17对比JDK8在GC方面有哪些提升？这我真不知道...，总体答的非常差）2、手撕，链表，给一个参数x，把小于x的节点放到前面。没有反问环节，直接结束面试了。面试结束后不到半小时官网简历就被共享了（等于被挂），喜提秋招第一凉。百度7.15二面1、实习经历...