高德大模型算法一面面经 1h

给我面没招了，感觉自己好菜、面试很难，还是要多多练习1.项目拷打2.你在去部署或者训练预训练或者后训练的模型时，有没有用过一些比较底层的一些训练的调试的工具，比如说千卡的话很容易就会出NCCL timeout，如果出现 NCCL timeout，一般怎么定位和解决？3.像那种rl里面的那个MOE之类的那种的优化有去做过吗4.看您的训练经验比较丰富，而且您上线运行的推理内容之前也进行过一些什么样的优化吗？5.有没有做过 kernel级别的优化？比如用 CUTE DSL或者手写 CUDA去做 fusion这类算子融合优化，介绍一下6像底层，如果你们在做.kernel fusion，倾向于用什么方式来做7.有没有哪次你做了 fusion 结果性能反而下降的？原因是什么8.平时写 CUDA的时候，有没有关注到底层实现细节？比如你刚提到 FA2，那再往下一层，像 Hopper架构里那个 warp specialization是什么，它底层大概是怎么实现的9.试过用 Agent去生成cuda内核么，怎么去做的10.如果我把 warp specialization 去掉，只保留 tile 和 shared memory 优化，大概会损失在哪？11.怎么么判断一个 MoE 模型是真的学到了分工，而不是只是把 dense模型拆开了12.在 RL + MoE 里，有没有遇到过 reward把 routing学坏的情况？就是模型为了拿 reward，全都走某几个 expert，这种情况你当时是怎么处理的

1. 自我介绍，介绍一下你觉得最有挑战性的项目2. 你提到用过多任务架构，任务数量多了之后内存压力怎么处理的？静态分配和动态分配你怎么选择？答：任务多了之后内存压力主要来自两块：每个任务的栈空间，以及任务间通信用的队列和信号量。栈空间的处理：先用 uxTaskGetStackHighWaterMark 跑一段时间，看每个任务实际用了多少栈，按实际用量加一定余量分配，不要每个任务都给一个很大的默认值对于简单任务（只做状态机跳转、没有深层函数调用）可以给很小的栈，比如 128 字对于有 printf、sprintf 或者复杂字符串处理的任务，栈需要大一些静态分配 vs 动态分配：嵌入式项目里我倾向...

能的兄弟，能的，一天200k我肯定干

想和大家认真聊一句： 实习写在简历上的经历，到底该真实到什么程度，又该不该适当包装？ 我自己的看法是：真实是底色，包装是表达。 大部分实习生刚进公司，其实很难独立扛下大项目，日常更多是协助、执行、打杂、学习。 如果完全照实写“整理文件、录入数据、复印跑腿”，简历看起来就很没竞争力。 所以所谓的“包装”，更像是把不起眼的小事，提炼出价值： 把“整理表格”，写成“负责业务数据汇总与核对，保障部门日常工作高效推进” 把“帮忙对接信息”，写成“参与跨部门沟通，协助推进项目节点落地” 把“简单执行”，写成“熟悉业务全流程，积累实操经验” 这不是造假，而是学会用专业的语言，总结自己真正做过的事。 有一分经...