无论是不是误闯，这一年咱也是闯过来了，也不管是不是岸吧，算是这一年的付出也没有遗憾了。高中学理科大学学了设计专业的我，在毫无数理氛围，充满精英主义的学院度过了四年。转码这一年，真的就像一场梦一样，给我打开了一个全新的世界。在这里，少了很多勾心斗角，少了很多权威压迫。这里代码没有喜怒，产出皆可量化，努力自有回报。至少程序员的世界，比外界要纯粹很多很多。去年9月我开始学前端，等到12月才开始学框架和项目，1月找了一份小厂实习，没学到任何东西。3月火速离职开始准备暑期，4月开始面试，5月底开始了暑期实习，9月份转正失败，再次火速离职投秋招……现在感觉这市场的节奏真的把人压的喘不过气来，似乎中间但凡晚...

1.自我介绍 2. Lora 原理（核心是低秩分解：将原始权重更新近似为两个低秩矩阵乘积，减少参数量，保留主导方向，训练高效） 3.了解 DeepSpeed 吗， ZeRO -1, ZeRO -2和 ZeRO -3分别做了哪些优化 （1 优化优化器状态，2 优化梯度，3 切分参数，全面节省显存） 4. Qwen的模型结构是怎么样的，相比于 LLaMA, DeepSeek 有什么区别（Qwen采用GQA+SwiGLU+RMSNorm，和LLaMA架构非常相似，差异在训练数据和tokenizer中文支持更好；DeepSeek只用MoE/ MLA架构，Qwen系列主要是Dense模型） 5.怎么缓解...