现在上班，和以前不一样了，比实习的时候忙多了。上班一年了，先不说学到了什么，从毕业到正式工作的整个过程，对我的影响很大。说到工作，突然想起来，刚入职时写了下 landing 文档，我 landing 了两次。之前的一次实习，是在上海的某大厂，当时这个岗位也说是可转正，当时我很纯粹，就是画饼就吃的那种人。卷了一段时间发现，在的部门实在是边缘，一个实习生，能接触到的内容本来就少，我第一次切身感受到所谓“嫡系”文化，意思是就连自己的上级都在不在上升通道里。带我的 mentor 人挺好，但实在太忙，根本没时间指导我。除了看上去毫无破绽的landing文档，技术上的积累，几乎是无。当时就准备骑驴找马，如...

真的绷不住了，双非b真的是案底啊

1.自我介绍 2. Lora 原理（核心是低秩分解：将原始权重更新近似为两个低秩矩阵乘积，减少参数量，保留主导方向，训练高效） 3.了解 DeepSpeed 吗， ZeRO -1, ZeRO -2和 ZeRO -3分别做了哪些优化 （1 优化优化器状态，2 优化梯度，3 切分参数，全面节省显存） 4. Qwen的模型结构是怎么样的，相比于 LLaMA, DeepSeek 有什么区别（Qwen采用GQA+SwiGLU+RMSNorm，和LLaMA架构非常相似，差异在训练数据和tokenizer中文支持更好；DeepSeek只用MoE/ MLA架构，Qwen系列主要是Dense模型） 5.怎么缓解...