人被凝视就会变蠢，不知道友友们有没有过这样的感受如果想要在工作中保持灵性，思维活跃，热情澎湃，其实是一件一点都不容易的事情因为很容易被sop限制住，缺乏流程之外的思考，失去从何而来为何如此的敏锐

我选高薪高压，不是爱卷，是认清楚了现实：年轻最大的资本就是“能扛”，与其在低薪wlb里消耗青春，不如趁冲劲足的时候，赚够抗风险的底气、学透硬技能。高薪带來的不只是银行卡余额的安全感，还有高压环境里逼出的解决问题的能力、更优质的圈层资源——这些“隐形资产”，才是未来能随时选择“慢下来”的底气。现在多拼一点，未来就能少妥协一点。

1.项目介绍2.说一下 LoRA 是什么原理3.了解 DeepSpeed 吗， ZeRO -1, ZeRO -2和 ZeRO -3分别做了哪些优化4.Qwen的模型结构是怎么样的，相比于 LLaMA , DeepSeek 有什么区别5.怎么缓解大模型的幻觉问题6.大模型的 MoE 结构相比于 Dense 结构训练的难点在什么地方， DeepSeekMoE 为什么效果好，有什么值得我们借鉴创新点7.知道FP16和BF16有什么区别吗，包括FP32和INT8这些，在训练大模型的时候，应该怎么选择8.讲一下 RLHF 的流程， PPO 和 DPO 算法是什么思想，写一下 PPO 和 DPO 的 Loss 表达式9.对于超长上下文业界一般是怎么做的，你知道 Qwen 是怎么做的吗10.开放题：你觉得目前大模型的上限在哪里11.代码：152．乘积最大子数组

1.介绍自己的项目2.BLEU和ROUGE3.self-attention求内积时为啥除以根号d4.LLM的评估5.介绍下simCSE6.解决tokens不够的问题应该怎么办7.详细介绍下deepspeed（三个stage结合参数回答）8.gpt和llama的区别（模型结构上的）9.PEFT的方式，LORA论文讲一下，对比p-tuning10.LLM训练的时候为什么warmup11.对比学习中的batch size是大一些好还是小一些好（大一些，甚至可以到10k+，为12.了构造好的negative样本）13.了解最新技术一般怎么通过什么渠道14.代码题：lc347 前 K 个高频元素