哎呦

自我介绍了解 DeepSeek-R1 吗？介绍一下？R1 的 MLA 是如何实现 KV-Cache 的节约R1 在 SFT 时冷启动的目的位置编码是什么？解释 ROPE？一个 14B 的模型，推理和训练要多少缓存显存的占用和哪些因素有关大模型灾难性遗忘是什么？如何解决？BF16、FP16、FP32 对比？Adam、AdamW 原理deepspeed 的三个阶段自我介绍手写 Self-Attention 公式，解释 Q/K/V 的作用位置编码有哪些实现方式？相对位置编码相比绝对位置编码的优势？LayerNorm 和 BatchNorm 的区别？为什么 Transformer 用 LayerNor...

27届毕业目前想找日常实习，boss全是已读不会，目前官网字节和网易简历直接挂了，其他没消息，连KPI面试机会都没给，真心求友友们给简历提提建议😭

你遇到最难的面试题目是？说到这个话题，还真有一道印象特别深刻的问题。去年秋招的时候，我去面了字节跳动抖音系的一个组，一路通过了前面三轮技术面，最后又被加了一轮技术面。前面的几场面试本身就很难，压力也是真的大，后面有机会可以专门分享下，但最让我印象深刻的，还是这场加面。老板问了我一个系统设计题，题目是：设计一个特效平台的服务架构，包含特效上传、审核、测试、分发、上线流程。要求：1、画出服务链路架构；2、涉及模块划分；3、考虑异常情况处理（如审核失败、测试失败）；4、补充存储方案、MQ、并发控制、版本控制等细节。都说字节喜欢考系统设计题，这次是我真切感受到了。一般的系统设计题，会围绕一个具体问题，...