华子公共开发部 ai infra ai数据系统

继续来分享下最近的面经~算子优化1. GEMM 中为什么通常让单个线程处理 8x8 的计算块？2. 使用 CUDA 实现算子时的主要难点有哪些？3. 是否使用 CUDA 实现过前缀和（prefix sum）？4. 什么是 bank conflict？有哪些减少 bank conflict 的方法？5. Little’s Law 中访存延迟与计算延迟的关系是什么？项目经历6. 介绍参与的开源项目。

发点面经攒攒人品～项目经历1. 实习拷打2. 项目拷打量化相关3. 量化策略的选择依据：为何选用 INT8 量化，A100 与 H100 对不同量化精度的支持情况4. 量化对象是模型权重还是 KV-Cache，scale 参数如何确定5. 量化后是否进行过精度损失的评测算子开发6. Triton 算子的实现逻辑，包括分块等策略7. 对比所用的官方 baseline 选择及数据类型8. 性能提升数据的来源，动态分块策略与算子配置9. 是否考虑过使用 CUDA 替代 Triton 进行算子开发，选择 Triton 的原因10. 是否做过 profiling，内存吞吐等性能指标表现如何，后续有何优化思路推理优化11. Attention 模块在整个系统端到端延迟中所占比例12. Decode 阶段属于 compute bound 还是 memory bound，KV-Cache 量化提升的是哪方面性能13. A100 的理论显存带宽上限

攒攒人品！有面试过同岗的朋友欢迎评论区交流1、手撕算法：买糖果（每种糖果的价格随购买数量在两个数切换，有 n 种糖果，求 m 元最多能买多少颗）cuda：softmax2、八股：1.项目中的算子改写详情2.c++：内存管理的方法有哪些：只想到 malloc、new3.malloc 和 new 的区别：省略一个构造函数4.pinned memory5.cuda 优化方法

攒人品中，祝大家都能拿到满意的Offer！项目经历1. 描述开源项目的 PR 内容与贡献2. 项目介绍及技术方案说明算子优化3. GEMM 的整体实现思路，当 K 维度远大于 M 或 N 时，对循环体会产生什么影响（如寄存器压力等）？4. NEON 汇编指令的基本用法5. CUDA 程序的调试工具与方法