大疆笔试（算法岗）

给我面没招了，感觉自己好菜、面试很难，还是要多多练习1.项目拷打2.你在去部署或者训练预训练或者后训练的模型时，有没有用过一些比较底层的一些训练的调试的工具，比如说千卡的话很容易就会出NCCL timeout，如果出现 NCCL timeout，一般怎么定位和解决？3.像那种rl里面的那个MOE之类的那种的优化有去做过吗4.看您的训练经验比较丰富，而且您上线运行的推理内容之前也进行过一些什么样的优化吗？5.有没有做过 kernel级别的优化？比如用 CUTE DSL或者手写 CUDA去做 fusion这类算子融合优化，介绍一下6像底层，如果你们在做.kernel fusion，倾向于用什么方式来做7.有没有哪次你做了 fusion 结果性能反而下降的？原因是什么8.平时写 CUDA的时候，有没有关注到底层实现细节？比如你刚提到 FA2，那再往下一层，像 Hopper架构里那个 warp specialization是什么，它底层大概是怎么实现的9.试过用 Agent去生成cuda内核么，怎么去做的10.如果我把 warp specialization 去掉，只保留 tile 和 shared memory 优化，大概会损失在哪？11.怎么么判断一个 MoE 模型是真的学到了分工，而不是只是把 dense模型拆开了12.在 RL + MoE 里，有没有遇到过 reward把 routing学坏的情况？就是模型为了拿 reward，全都走某几个 expert，这种情况你当时是怎么处理的

攒攒人品！有面试过同岗的朋友欢迎评论区交流1、都知道哪些vllm的优化技术？2、在现有模型的基础上，由于算力问题，如何利用大模型来蒸馏一个3B的模型？3、logistic回归的模型原理和loss。4、给定一个时间序列，如何通过机器学习的方法进行建模筛选出来重要的特征，然后基于规则方法进行建模5、DeepSeek-MTP是用在训练阶段还是推理阶段的，具体过程是怎样的？6、在现有大模型的基础上，如何通过agent的相关方法，训练一个coder模型，撰写金融领域相关模型的代码。

已经自学三四个月了，是项目太简单了吗？我是不是要再补一两个更深度的偏后端的项目呢？投了一两百份基本上0面。有点崩溃了。

整体面试还是不错的，但是没后续了，不知道是哪里出了问题1.项目拷打2.实习拷打3. 多轮对话超长上下文如何训练4. 上下文记忆策略5. Skills读取超长sop的优化有哪些trick