发一下问题给大家参考，攒攒人品！有面试过同岗的朋友欢迎评论区交流简单问了下项目1. 如何保证精度转换时的数值稳定性？2. Warp/Block 划分策略与SIMT架构的关系3. 如何快速上手全新的大模型推理框架？4. 场景题：作为负责人，如何优化一个云端 CV 模型推理服务（单卡吞吐/延时）

给我面没招了，感觉自己好菜、面试很难，还是要多多练习项目深挖1. Flash Attention：核心优化点是什么？（分块加载QKV、Online Softmax、显存复杂度O(N^2)->O(N)）2. Self-Attention：为什么要除以 √d？（防止点积过大导致Softmax梯度消失）3. 回调函数怎么实现？4. 显存越界怎么排查？

整体面试还是不错的，但是没后续了，不知道是哪里出了问题项目经历拷打体系结构基础：1. 浮点数：BF16 vs FP16 的区别？为什么大模型训练用BF16？2. 内存：大端 vs 小端？主流架构是什么？（x86小端）3. CPU设计：如果设计一个CPU，从哪几个部分考虑？（指令集、流水线五阶段）4. OS：用户态 vs 内核态？怎么切换？（系统调用）框架与NPU：1. NPU开发难点和策略2. Softmax优化：如何解决负载不均衡？3. TP原理：Tensor Parallel切分的是什么？涉及哪些通信？

1. 自我介绍 略 2. 算法题（全英文）  平均值大于阀值的子数组（力扣原题） 非常规题： 有一个sentense数组，里面有用户使用过的英语语句数据，类似于["i love you","i love the dog","i promise"] 让有一个count数组，记录了每个语句的使用次数，类似于[10,20,30] 现在用户每输入一个字符，你需要返回topK的语句数据。 举例：   用户输入i,你需要返回top 2，那么就返回["i love the dog","i promise"] ...

一面： 1. 自我介绍，讲论文和实习。2. Transformer自注意力机制、位置编码、梯度消失/爆炸的解决方案。3. 微调方法对比（Full Fine-tuning vs. LoRA/Adapter/P-Tuning）。4. 推理加速技术（量化、动态批处理、FlashAttention）。5. 如何优化大模型在长文本生成中的显存占用？6. RLHF中奖励模型（RM）的训练数据如何构建？7. 为网易云音乐设计一个AI歌词生成系统，如何提升创意性和押韵效果？8. 模型剪枝/量化（GPTQ、AWQ）、服务化框架（FastAPI+vLLM）。9. 如何解决大模型API服务的响应延迟问题？一面八股挺多的，问的知识点也非常多，主要考察对大模型的理解，整体来说难度不算大，复习熟记八股应该都比较好答。二面：1. 自我介绍，讲论文和实习。2. LayerNorm和BatchNorm在大模型中的区别？为什么Transformer用LayerNorm？3. 解释大模型训练中的“灾难性遗忘”现象及解决方法。4. 如果微调后的模型过拟合，你会如何调整？5. 如何评估一个对话系统的生成质量？6. 如何用大模型提升网易新闻的推荐效率？7. 设计一个游戏内AI陪玩系统，需考虑哪些模块？8. 领域适配时，如何构建高质量的垂域训练集？9. 你在项目中如何解决数据稀缺问题？10. 模型上线后遇到了什么性能瓶颈？如何优化的？建议：精读《Attention Is All You Need》、HuggingFace文档。如果没有大模型项目，可用Kaggle/开源项目复现（如LangChain应用）。

很多人问我如何准备大模型的面试，分享下我的经验，针对两种情况：1. 有大模型实习2. 无大模型实习针对无大模型实习的情况，我建议先找一段中厂实习为主，比如 zhipu、Minimax （当然有大厂进大厂）这些，相对容易进，尽量积累大模型实习经历。针对有大模型实习的情况，复习内容为：1. 常规八股（transformer、bert 等）2. 最新八股（GQA 等）3. 技术报告（一定要自己看原PDF，目前推荐 DeepSeekV3, R1, kimi1.5, Minimax-01, Qwen2.5, Qwen2.5-VL）4. 手撕 Leetcode：Hot1005. 手撕模型，比如 MHA 这些首先是常规八股和最新八股，这一部分可以自己找找网上资料，整理好的，背。然后是技术报告，目前推荐的内容有：1. DeepSeekV3：必读2. DeepSeekR1：必读3. Kimi1.5：选读4. Minimax-01：选读，据我所知最长上下文模型（外推到 4M，不过好像被 LLama4 的 10M 超过了）5. Qwen2.5：必读6. LLama3.1：必读7. Qwen2.5-VL（如果简历有多模态内容）：选读重点关注：1. 阶段训练（预训练几段、Post-training 几段？上下文用了多少？数据配比是什么？）2. 模型创新点（MHA 创新是什么？作用是什么？）3. 上下文优化创新点（一般是优化显存和阶段训练）4. 多模态优化创新点（简历有多模态内容）5. 几个模型不同之处（比如 Qwen2 和 Qwen2.5 的不同之处）最后是手撕，Leetcode 只刷 Hot100 够了，模型手撕建议关注（我目前会的）：1. MHA2. LayerNorm3. Transformer Encoder (MHA+LayerNorm+FFN)4. PE（绝对位置编码）5. ROPE6. SwiGLU7. RmsNorm每次面试前快速过一遍就 ok 了。

祝大家都能拿到满意的Offer！发面经攒攒人品1. 大模型推理瓶颈：LLM在NPU上的最大瓶颈在哪？2. Prefill vs Decoding的Matmul优化方法3. 分块策略：如何保证数据在缓存中的连续性？4. 昇腾NPU架构对Transformer友好吗？5. 场景题：一个量化后的大模型（如INT8/4）运行时内存占用大概多少

攒攒人品！有面试过同岗的朋友欢迎评论区交流1. 项目深挖2. 内存管理：用户态 vs 内核态的区别？进程间内存隔离机制？3. 缺页中断：内存不足时OS会做什么？（LRU回收、Swap、OOM Killer）4. 变量存储：局部变量 vs 全局变量在内存段中的位置（栈 vs 数据段）

发些面经攒攒人品1. GPU算子优化通用方法论：profiling定性（memory/compute-bound）2. 针对性优化（访存连续性/计算简化/block size调整）3. 项目深挖，问得比较细，具体的优化过的部分都有问到4. 分布式通信原语理解：all-reduce / all-gather / all-to-all 语义区分5. 手撕CUDA编程：large array reduce sum 实现（shared memory归约 + 分层kernel设计）6. 系统基础：进程/线程/协程概念7. CPU调度粒度（进程级 vs 线程级公平性）

1.请详细描述你在简历中提到的AI相关项目中，负责的主要模块和核心技术贡献。2.在设计一个高吞吐、低延迟的模型推理服务时，你会重点考虑哪些架构层面和工程层面的问题?3.请解释C++程序内存中栈(stack)、堆(heap)和静态/全局存储区的特点与主要区别。4.在C++中，new/delete`与'malloc/free`的主要区别是什么?为什么在C++中通常推荐使用前者?5.请解释深拷贝和浅拷贝的概念，并说明在什么情况下必须使用深拷贝。6.请阐述C++中'std:unique_ptr、'std..shared_ptr和'std:weak_ptr的设计意图、使用场景及相互区别。7.虚函数表(vtable)是如何实现运行时多态的?虚函数与纯虚函数(抽象类)在语义和用法上有何不同?8.什么是内存对齐?编译器对结构体进行内存对齐的主要规则是什么?请计算一个给定结构体(包含不同类型成员)在特定平台下的sizeof大小。9.请解释C++11中右值引用(&&)和移动语义(move semantics)的概念，并说明它们如何用于实现高效的数据转移(如std.:.vector的push_back)。110.简述CUDA的SlIMT(单指令多线程)编程模型，描述thread、block、grid的层次关系。11.在CUDA内核中，一个线程的局部变量通常存储在何处?这与寄存器的分配有何关系?12.在CUDA优化中，如何使用共享内存(Shared Memory)来减少对全局内存的重复访问?请举一个简单的例子(如矩阵乘法中的分块)。13.什么是warp shuffle指令?它在warp内部的数据交换和规约操作中有什么优势?14.解释在CUDA中使用float4或int4等向量化加载/存储指令进行合并访存的原理和性能收益。15.什么是共享内存的bankconflict?它是如何产生的?请举例说明。16.如何通过数据填充(padding)或其他内存布局调整技术来避免或减轻共享内存访问中的bankconflict?17.解释CPU缓存的工作原理，包括时间局部性、空间局部性的概念，以及常见的缓存替换策略18.编程题:实现一个算法，在一个包含大量整数的数据流中，实时找出出现频率最高的前K个元素。请描述你的思路(哈希表+最小堆)并分析时间复杂度。

给我面没招了，觉得自己好菜...1. 先问fp42. 量化的矩阵乘维度3. 先问硬件怎么做量化的。4. 量化的硬件需要啥5. 问了一些gpu的问题。6. 怎么分析系统瓶颈。7. 问了flash attn。7.1 有什么用？7.2 矩阵维度推导。7.3 k包不包含q的那个17.4 多头多batch怎么并行

大概四十分钟结束，聊家常一样项目拷打1. 你觉得现在llm推理瓶颈在哪。2. 问了我一个工作怎么建模互联的。3. 然后又对着这个工作挖了一些。4. 怎么看待未来硬件形态。5. 发文章怎么看

整体感觉还不错，但是喜提人才库....1.NV的卡对于FP8有哪些独特的优化。2.FP8的两种情况有什么区别，分别怎么计算?3.计算FP8的kvcache大小4.H卡有什么新的设计，和L卡有什么不一样呢?5.讲讲最近推理上有什么新的tricks(无手撕)

最近闲下来了整理下之前的面经攒攒人品！项目拷打，实习拷打1.MLA为什么比MHA好?2.权重吸收中间遇到的问题。3.KVcache的离线计算与非常用kvcache的卸载加载4.还有什么kvcache优化的相关的tricks

1️⃣切分策略（ chunk size / overlap ）怎么定的？拍脑袋还是实验出来的？2️⃣向量召回和关键词召回冲突时如何融合？3️⃣重排模型为什么这么选？延迟预算是多少？4️⃣你说线上提升2.1%，实验分桶方案是什么？5️⃣显著性怎么验证？样本量怎么算？6️⃣给一个你最失败的 bad case ，最后怎么定位的？7️⃣如果今天线上再次复现，你第一步看哪个监控？8️⃣SFT 数据如何清洗，怎么避免模板味太重？12) DPO 比 SFT 多解决了什么真实问题？9️⃣LoRA rank 为什么这么选？有没有做过 ablation ?1️⃣0️⃣QLoRA 稳定性问题你遇到过吗？如何兜底？1️⃣1️⃣手撕：括号生成，要求讲清楚剪枝逻辑。📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

1️⃣切分策略（ chunk size / overlap ）怎么定的？拍脑袋还是实验出来的？2️⃣向量召回和关键词召回冲突时如何融合？3️⃣重排模型为什么这么选？延迟预算是多少？4️⃣你说线上提升2.1%，实验分桶方案是什么？5️⃣显著性怎么验证？样本量怎么算？6️⃣给一个你最失败的 bad case ，最后怎么定位的？7️⃣如果今天线上再次复现，你第一步看哪个监控？8️⃣SFT 数据如何清洗，怎么避免模板味太重？12) DPO 比 SFT 多解决了什么真实问题？9️⃣LoRA rank 为什么这么选？有没有做过 ablation ?1️⃣0️⃣QLoRA 稳定性问题你遇到过吗？如何兜底？1️⃣1️⃣手撕：括号生成，要求讲清楚剪枝逻辑。📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

发一下问题给大家参考，攒攒人品！有面试过同岗的朋友欢迎评论区交流对照简历进行项目拷打1. 两个有序数组找中位数，Leetcode.42. 写cuda：gemm，讲优化方法，讲评估指标3. 手撕MLA

攒人品中～ 1.介绍一下Transformer的架构，和传统RNN循环神经网络相比有何优势2.Transformer中参数都分布在哪里，参数量最大的是哪部分?计算量最大的是哪部分，为什么?3.了解GPU的cudacore、Tensorcore吗，你常用的GPU有哪些，他们的显存和显存带宽有多大?4.讲讲大模型的量化，讲量化算子5.详细讲pd分离6. 详细讲paged atten7.LC25题:K个一组翻转链表8.写cuda算子:前缀和。实现一个base的，讲优化方法9.写cuda算子gemm:实现一个base的，讲优化方法

被狠狠拷打了，发点面经攒攒人品1.什么是cudagraph。为什么cudagraph会用到更多的显存。推理的什么阶段更适合cudagrapho2.讲跨block的内部通信，warp原语。举一些warp原语的例子，讲讲都是什么。3.讲一下对nv芯片的ptx机器模型的认识。4.讲讲对cuda代码编译流程的认识。5.讲讲MLIR，以及为什么要设计MLIR出来6.手撕:归并排序