百度 ai infra 暑期实习一面

发点面经攒攒人品～基础知识1 进程与线程的核心区别是什么？Cache 的层级结构及2. 常见替换策略有哪些？3. IEEE 浮点标准中 FP16、FP32、FP64 各自的位宽分配方式是怎样的？4. 快速排序的执行流程是什么？堆的基本性质有哪些？拓扑排序适用于哪些场景？推理与算子优化5. 请阐述 Transformer 架构中 Decoder-only 结构的特点，包括 QKV 的生成过程以及位置编码的嵌入时机。6. RMSNorm 的计算公式是什么？其计算访存特性如何？可以从哪些角度进行优化（如负载均衡、Double Buffer、指令替换）？7. Softmax 的数值稳定性问题如何处理？Online Softmax 的实现原理是什么？8. 矩阵乘法与反量化融合算子在内存方面的优化策略有哪些？9. 稀疏矩阵 SpMV 运算中如何实现负载均衡与带宽优化？项目经历10. 项目深入考察。工具与工程11. Git 中拉取远程分支的操作方式有哪些？fetch+checkout 与 pull 的区别是什么？

更偏推理基础、工程细节和 CUDA 手写题这场百度 AI Infra 一面，整体感受是节奏很快，前半段主要围绕简历里的项目和实习经历往下问，后半段会明显转到一些更偏推理基础和工程理解的问题，最后还加了一道 CUDA 的手写题。面试官一开始先介绍了团队，说他们在百度智能云下面，训练、推理、强化学习、Agent 这些 AI Infra 相关方向基本都覆盖到了，所以一上来的感觉就是，这不是只盯某一个小点的岗位，而是一个工作面比较宽的 Infra 团队。正式开始之后，前面还是从我现在做的事情切进来，重点还是摩尔线程这段实习。面试官先问我怎么理解自己在做的这个 TensorFlow MUSA Exten...

发一下问题给大家参考，攒攒人品！1.实习拷打2.有没有做过多卡 / 分布式通信；3.tp，tp通信原语4.MoE / EP ，Continuous Batching，KV Cache 分配5.单卡场景下 P 和 D 怎么衔接，pd解耦和pd分离区别6.Prefix Caching，命中 Prefix Caching 之后，attention 阶段的传参与不命中相比具体有什么差别7.手撕二分查找

网友提问：yt哥，我本科通信中上9，考研25/26两次清华复试都因为各种原因被刷了，目前准备找工作观望观望，可能找个简单点的三战。现在在准备 cpp 的基础想找个相关岗位，研究生做 ai infra 方向。目前春招投了仅有的几个收往届的公司还在走流程，但是够呛我的基础挺差的二战后很多都忘了。 想问的是1.如果春招寄了，走 od 过渡还是直接干教培挣快钱再去考研   2.关于我想做方向的后续规划，还有自己慢慢发展以后还有社招进大厂的可能吗Yt回复：一、先看背景本科：中上985（武大、华科、厦大、中山这一档）考研经历：一战二战清华，复试被刷（笔试分应该够高，问题出在复试）技术方向：准备C++，研究...