AI深度学习算法推理加速CUDA HPC类岗位-英伟达面经

整体面试还是不错的，但是没后续了，不知道是哪里出了问题1. CPU vs GPU vs NPU优化差异，对应场景题2. 手撕CUDA编程：在 uint8 数组中找第 K 大的值3. 手撕二叉树最右节点4. 对自动驾驶领域的了解

1.请详细描述你在简历中提到的AI相关项目中，负责的主要模块和核心技术贡献。2.在设计一个高吞吐、低延迟的模型推理服务时，你会重点考虑哪些架构层面和工程层面的问题?3.请解释C++程序内存中栈(stack)、堆(heap)和静态/全局存储区的特点与主要区别。4.在C++中，new/delete`与'malloc/free`的主要区别是什么?为什么在C++中通常推荐使用前者?5.请解释深拷贝和浅拷贝的概念，并说明在什么情况下必须使用深拷贝。6.请阐述C++中'std:unique_ptr、'std..shared_ptr和'std:weak_ptr的设计意图、使用场景及相互区别。7.虚函数表(vtable)是如何实现运行时多态的?虚函数与纯虚函数(抽象类)在语义和用法上有何不同?8.什么是内存对齐?编译器对结构体进行内存对齐的主要规则是什么?请计算一个给定结构体(包含不同类型成员)在特定平台下的sizeof大小。9.请解释C++11中右值引用(&&)和移动语义(move semantics)的概念，并说明它们如何用于实现高效的数据转移(如std.:.vector的push_back)。110.简述CUDA的SlIMT(单指令多线程)编程模型，描述thread、block、grid的层次关系。11.在CUDA内核中，一个线程的局部变量通常存储在何处?这与寄存器的分配有何关系?12.在CUDA优化中，如何使用共享内存(Shared Memory)来减少对全局内存的重复访问?请举一个简单的例子(如矩阵乘法中的分块)。13.什么是warp shuffle指令?它在warp内部的数据交换和规约操作中有什么优势?14.解释在CUDA中使用float4或int4等向量化加载/存储指令进行合并访存的原理和性能收益。15.什么是共享内存的bankconflict?它是如何产生的?请举例说明。16.如何通过数据填充(padding)或其他内存布局调整技术来避免或减轻共享内存访问中的bankconflict?17.解释CPU缓存的工作原理，包括时间局部性、空间局部性的概念，以及常见的缓存替换策略18.编程题:实现一个算法，在一个包含大量整数的数据流中，实时找出出现频率最高的前K个元素。请描述你的思路(哈希表+最小堆)并分析时间复杂度。

ai infra八股：1- 给定训练所需的Tokens，怎么估计模型训练所需的完整时间？2- Prefill和Decode阶段各有什么优化技术？3- 什么是Two-batch overlap，什么场景Two-batch overlap是负优化？4- megatron-lm中通信优化怎么做？5- 多机PD分离会有KV cache transfer开销，为什么还要做PD分离？6- muon和AdamW的pretrain和posttrain为什么不能混用？7- 如何看待跨SM的PD分离和AF分离？8- cuda的global memory和shared memory访存分别需要注意什么？9- deepseek-V3的优化点10- deepseek-DSA和NSA，MoBA的区别11- nccl中的通信源语有哪些？all-reduce参数更新一次参数需要几次通信？12- 在小数据量场景使用NVSHMEM，每个GPU直接读取其他GPU的数据，在本地reduce，相比ring all-reduce的好处13- 训练时如何设计超长序列下的并行14- 将Ampere架构的算子适配到Hopper架构的卡上，你会对哪些地方进行升级改造？

📍面试公司：文远知行一面（更新2026/03/26挂）🕐面试时间：2026/03/20💻面试岗位：AI infra（时长1小时）❓面试问题：一、实习项目拷打10分钟，你在上一家公司做了什么二、八股1、PD分离机制，如何调度两个队列          ——回答PD区别，然后我如何设计调度策略，优先D，也保证P不被饿死2、vllm如何优化显存？                            ——讲了pageattention、continue batching、内存复用3、chunk prefill                                       ——分块计算，我感觉这个没啥好讲的，可能是针对padding吧4、什么是虚拟内存                                   ——这个很简单5、说一下进程和线程的区别，以及操作系统如何调度    ——这个也简单6、讲一下TCP\IP栈                                  ——说实话没听明白，后来询问之后是介绍TCP/IP模型7、追问如何通过IP地址进行通信（找到目标ip） ——这个我其实忘了，随便说了一下洪泛搜索，不知道对不对8、K8S拷打，简历上没写这个                   ——反正基本都不会，应该是炸了，只知道pod和container😓三、手撕（dfs+优化思路）给的测试数据不大，十分钟写了个O(N^N)的算法，运行没问题，然后要求优化成O(N^logN) ——想了很久，提示二分后没时间了，就没写了。四、反问1、我今天表现怎么样答：我感觉你没睡醒😂，状态不好。（我感觉这面试官也一直打哈欠）2、对我有什么建议吗答：简历都挺好的，技术上不应该只追求论文，你可以多了解一下K8S这些3、部门业务是啥答：我们组是做ai infra的，顶层可能是k8s负责调度大模型，中间有做算法优化，底层也有cuda算子优化吧。（这个                面试官介绍的挺详细的，我感觉他是负责K8S调度的）🙌面试感想：发挥不是很好，面试官人挺不错，感觉凉了大半截了，过几天看看结果吧。