小时候觉得老师是很伟大的职业 感觉老师都是人中龙凤才能当 后来考入大学 发现以前的老同学也是公费师范生了 他们什么样什么人品 我还不清楚吗 只能希望他们以后也会有改变 要不纯属耽误孩子 实习之后发现 有的领导 能当上领导也可能运气成分很多 自己决策方面很差 分配给属下的东西自己也说不明白  前些年那些明星 各种塌房 少林寺大师都能有情人和孩子 越长大越发现世界就是个草台班子 以前对不懂的东西有一层羡慕的滤镜 接触之后发现就不是那回事了

自我介绍了解 DeepSeek-R1 吗？介绍一下？R1 的 MLA 是如何实现 KV-Cache 的节约R1 在 SFT 时冷启动的目的位置编码是什么？解释 ROPE？一个 14B 的模型，推理和训练要多少缓存显存的占用和哪些因素有关大模型灾难性遗忘是什么？如何解决？BF16、FP16、FP32 对比？Adam、AdamW 原理deepspeed 的三个阶段自我介绍手写 Self-Attention 公式，解释 Q/K/V 的作用位置编码有哪些实现方式？相对位置编码相比绝对位置编码的优势？LayerNorm 和 BatchNorm 的区别？为什么 Transformer 用 LayerNor...