南方电网数字电网研究院 28号面试分享

自我介绍了解 DeepSeek-R1 吗？介绍一下？R1 的 MLA 是如何实现 KV-Cache 的节约R1 在 SFT 时冷启动的目的位置编码是什么？解释 ROPE？一个 14B 的模型，推理和训练要多少缓存显存的占用和哪些因素有关大模型灾难性遗忘是什么？如何解决？BF16、FP16、FP32 对比？Adam、AdamW 原理deepspeed 的三个阶段自我介绍手写 Self-Attention 公式，解释 Q/K/V 的作用位置编码有哪些实现方式？相对位置编码相比绝对位置编码的优势？LayerNorm 和 BatchNorm 的区别？为什么 Transformer 用 LayerNor...

接offer了，还是sp呢

终于拿下腾讯offer，同时给大伙释放一个b站hc

不是节子不好，而是这次跳槽对我本人来说是很正确的选择，对比两个厂的体验，可以给大家一些参考。节奏与压力：字节：强度绝对大于美团，早10晚10是常态，总在开会，开不完的会，各种文档@你，写不完的需求，神经经常处于精神紧绷状态，切实体会到工作到凌晨的崩溃感。美团：整体节奏相对更稳健成熟（这个要看部门）。同事关系也没有那么紧张，大家都务实，DDL是一定存在的，但基本都是可以商量着来，周末能做到和工作分离。工作模式：字节：给我的感觉就是「激进」，强目标导向，强调数据，喜欢创新，只要你的数据以及想法论证链路是闭环的，技术可支持，想法就能上线，得到市场的反馈，内部创新氛围浓厚。美团：更强调业务，一个产品策...