荣耀 二面

荣耀n*12+年终满帮(n+9)*(12-15)荣耀做音频，满帮是算法其实已经签了荣耀，但是满帮发offer了，这俩工作强度方面差别大吗？满帮给的还挺多的补充一下山西人，想着离西安近一点，但是看网上说荣耀的强度也不小，怕干的多给的少还不如选满帮

荣耀快截止了，base地南京，通软，年包是26k*12+8w华为还没开奖，不知道能开多少，但是预感不会太高，因为感觉面试表现不是太好，base地在上海。有一个最想去的国企刚面完，现在在纠结直接签了荣耀，结束秋招；还是放弃荣耀，拿华子当保底，然后等国企。问问大家的意见————————————更新一下，国企没了。华为和接口人聊聊，能开最多总包35，肯定是没有荣耀高的，但是华为是不是后续涨薪更快，发展空间也更大呀

兄弟们，我刚在某脉上吃到一个热乎的瓜，组里有人爆料，+1 对组里某位外包同事特别“照顾”，资源明显倾斜，搞得现在组内气氛有点微妙。更让人惊讶的是，这位外包同事在部门里其实已经有对象了，而且据说在公司外面还有一位……好家伙，现实版旮旯game也是让他玩上了牛友没有没有人脉，此瓜保真吗

1.实习介绍2. Lora 原理(核心是低秩分解:将原始权重更新近似为两个低秩矩阵乘积，减少参数量，保留主导方向，训练高效)3.了解 DeepSpeed 吗，ZeRO -1, ZeRO -2和 ZeRO3分别做了哪些优化(1优化优化器状态，2优化梯度，3切分参数，全面节省显存)4. Qwen的模型结构是怎么样的，相比于 LLaMA,DeepSeek 有什么区别(Qwen采用GQA+SwiGLU+RMSNorm，和LLaMA架构非常相似，差异在训练数据和tokenizer中文支持更好;DeepSeek只用MoE/MLA架构，Qwen系列主要是Dense模型)5.怎么缓解大模型的幻觉问题(RAG，RLHF对齐，事实监督)6.大模型的 MoE 结构相比于 Dense 结构训练的难点在什么地方，DeepSeekMoE为什么效果好，有什么值得我们借鉴创新点(MoE面临负载不均衡、训练不稳定问题;DeepSeekMoE通过细粒度专家和共享专家设计提升稳定性和效果)7.知道FP16和BF16有什么区别吗，包括FP32和INT8这些，在训练大模型的时候，应该怎么选择(FP16精度高但易溢出，BF16动态范围大;训练常用BF16混合精度，推理用INT8量化加速)8.讲-下 RLHF 的流程，写-下 PPO和 DPO的 Loss表达式(训练奖励模型后用PPO/DPO优化策略:PPO Loss: policy ratio + KL 约束/ DPO Loss: logit preference diff + sigmoid binary loss)9.对于超长上下文业界一般是怎么做的，你知道 Qwen是怎么做的吗(业界常用ROPE 变体/滑动窗口注意力/稀疏注意力等:Qwen使用YaRN和窗口注意力扩展上下文)10.开放题:你觉得目前大模型的上限在哪里(推理能力、长期记忆、具身交互和能耗效率，需要架构创新和多模态融合突破)11.代码:152.乘积最大子数组