发一下问题给大家参考，攒攒人品！1. 项目相关的访存优化问题2. 算子融合的实现难点3. 负载均衡问题4. 如何判断优化是否到瓶颈了5. 常见量化策略

开春了，开始投递简历找下一段实习，还是比较倾向于能转正的暑期实习的...但现在似乎没什么大厂开了暑期（除了字节？） ，又想通过面试去发现自己的不足（有了大厂实习，小厂已经很难约面了，也不太想面小厂....），只能去投大厂日常，那大厂日常过了不去会影响以后的暑期吗...或者日常没过会脏面评吗，暑期就约不到面了这样...我现在应该继续投大厂日常练手后再转向暑期（又很担心上面的问题）；还是先不执着于面试练手，等暑期开了先all in暑期，实在找不到暑期最后再回归日常吗。。。。。太难了..

给我面没招了，觉得自己好菜...1. 先问fp42. 量化的矩阵乘维度3. 先问硬件怎么做量化的。4. 量化的硬件需要啥5. 问了一些gpu的问题。6. 怎么分析系统瓶颈。7. 问了flash attn。7.1 有什么用？7.2 矩阵维度推导。7.3 k包不包含q的那个17.4 多头多batch怎么并行

祝大家都能拿到满意的Offer！1.实习介绍2.对岗位的理解3.Qwen模型占了多少内存，在上一段实习中如何部署的4.介绍模型量化和Flash attention，实际优化效果如何5.介绍Tensorrt，底层方面如何加速6.是否了解vllm框架，追问PagedAttention7.介绍实验室项目，模型参数量计算量怎么算的8.Pytorch核心的基础功能是什么，有试过Pytorch对GPU进行管理吗9.模型训练和推理在资源、消耗上的区别，是否了解模型训练过程中性能优化的手段10.GPU和CUDA有了解吗，GPU基础的物理执行单元是什么11.手撕力扣hot100：将有序数组转化为二叉搜索树