发点面经攒攒人品～基础知识1 进程与线程的核心区别是什么？Cache 的层级结构及2. 常见替换策略有哪些？3. IEEE 浮点标准中 FP16、FP32、FP64 各自的位宽分配方式是怎样的？4. 快速排序的执行流程是什么？堆的基本性质有哪些？拓扑排序适用于哪些场景？推理与算子优化5. 请阐述 Transformer 架构中 Decoder-only 结构的特点，包括 QKV 的生成过程以及位置编码的嵌入时机。6. RMSNorm 的计算公式是什么？其计算访存特性如何？可以从哪些角度进行优化（如负载均衡、Double Buffer、指令替换）？7. Softmax 的数值稳定性问题如何处理？Online Softmax 的实现原理是什么？8. 矩阵乘法与反量化融合算子在内存方面的优化策略有哪些？9. 稀疏矩阵 SpMV 运算中如何实现负载均衡与带宽优化？项目经历10. 项目深入考察。工具与工程11. Git 中拉取远程分支的操作方式有哪些？fetch+checkout 与 pull 的区别是什么？

这个面经是群里 小伙伴分享的 社招, 2年的工作经验 双非本9硕 将近40分钟都在问项目细节 项目这里我全部砍掉了1. 自我介绍2. 大模型在推理时通常分哪两个阶段，每个阶段关注点是什么一般分成 prefill 和 decode 两个阶段。prefill 阶段主要是把输入 prompt 一次性编码进去，重点看吞吐、并行效率和长序列的计算开销；decode 阶段是逐 token 生成，重点看单步延迟、KV Cache 复用和 batch 调度效率。很多线上推理慢，不是模型本身慢，而是 prefill 太重或者 decode 阶段调度策略不合理。理解这两个阶段，才能知道为什么有些优化只对长输入有效...

感觉面完人都通透了，还是太菜了，下去沉淀一下项目拷打拷打第一段实习2.1 模型优化细节，非常细，基线模型结构、具体优化点、expert数量，输入维度，参数量计算，特征分配策略等等22.2 参数量增加后，计算量增加了多少？FLOPs和训练速度分别怎么变化？2.3 模型性能跟模型大小是相关的吗？2.4 新增的存储属于什么类型？在PS中仅增加存储是否影响训练推理速度2.5 存储成本和查询成本哪个更高？新增参数量是否达到瓶颈？2.6 相同的机器下，训练速度慢了多少？或者增加了多少机器才能让训练速度持平？拷打第二段实习3.1 主模型细节，序列建模细节，模型参数、序列长度3.2 OneTrans的优缺点手撕代码：求数组中第K大的数，时间复杂度要求O(N)

最近影石的秋招真的让我心态反复横跳。本来已经打算放弃了，结果后面又被抬价，直接又燃起希望了😂整体面试体验还是挺不错的，面试官都很强，问得也很深入，尤其是对项目和底层原理的考察非常细。这里整理一下自己的面经，希望能帮到后面准备秋招的同学。一面：疯狂技术拷打（AI推理 + C++ + 体系结构）一面的面试官绝对是技术大牛，问题密度非常高，几乎没停过。AI推理 / MNN / 模型部署为什么选择 MNN 推理框架？调研过其他框架吗？模型从训练到端侧用 MNN 推理的完整流程是什么？int8 和 FP16 的性能提升明显吗？MNN 做了哪些优化？双线性插值的 4 个点权重怎么计算？仿射变换用了哪些 ...