辉羲智能 NPU算子开发实习生 面经

被狠狠拷打了，发点面经攒攒人品1.什么是cudagraph。为什么cudagraph会用到更多的显存。推理的什么阶段更适合cudagrapho2.讲跨block的内部通信，warp原语。举一些warp原语的例子，讲讲都是什么。3.讲一下对nv芯片的ptx机器模型的认识。4.讲讲对cuda代码编译流程的认识。5.讲讲MLIR，以及为什么要设计MLIR出来6.手撕:归并排序

算法题： 1- 快排，寻找两个正序数组的中位数，下一个排列，二叉树中的最大路径和，Path Sum III2- 给定若干点的数轴坐标数组和固定数量的等长线段，问该线段最少要多长才能覆盖所有点3- 前k个高频字符串，词频一样时按字典序升序排列4- 给定初始字符串s，每次将字符串向右旋转一次，并将旋转后的字符串拼接到原字符串的末尾，每次操作都会使字符串的长度变为原来的两倍，求计算出无限扩展后的字符串中第 N个位置的字符5- 两根手指放在26个小写字母组成的键盘上，最少移动多少距离才能敲出给定的字符串sorch手撕题：MHA * 3，Flash Attention v1，flow matching model采样的伪代码ai infra或算法八股：1- flow matching模型预测的是什么，怎么理解conditional velocity (conditioned on data sample x0)2- 如何计算QwenImage的time shift3- 介绍Flash Attention的原理和实现思路4- GPU matrix transpose使用shared memory的好处5- CPU按列遍历一个行优先的矩阵相比按行遍历为什么性能会变差，具体是因为哪个性能指标变差导致的6- weight-only量化有哪些，实现weight-only量化cuda kernel时如何优化访存，是否了解Marlin kernel7- Megatron SP的实现方式8- DeepSpeed ZeRO stage1和stage 2的通信量区别，论文和代码实现有没有gap9- 多GPU通信时NVSHMEM和NVLink的区别

给我面没招了，感觉自己好菜、面试很难，还是要多多练习，感觉自己说不明白业务逻辑1.说一下vllm里schedule的过程；2.说一下vllm请求被抢占后续会怎么样；3.说一下投机采样推理时草稿模型和主模型交互流程，vllm和sglang中的实现有什么区别；4.说一下gptq量化、smooth quant原理；5.介绍一下DeepSeek V3 eplb推理；6.mla在prefill和decode时的计算复杂度区别，听说过mla矩阵吸收优化吗；7.dsv3.2有什么创新点；8.sglang里多模态如果开了tp，vit的image embedding在多个进程里是怎么高效复用的

请问下各位大佬，那个数字ic验证方向好跳槽