南京电信分公司-暑期实习线下面试

1. 基础概念题：什么是大模型核心加速技术中的 “算子融合”？举例说明其作用。答案要点：算子融合是将多个连续计算算子合并为一个，减少计算图中的节点数和显存读写次数，降低延迟。举例：如将 Transformer 中的 Add（残差连接）与 RMSNorm（归一化）融合，减少两次内存访问，提升推理速度。2. 技术原理题：Flash Attention V2 如何优化注意力计算效率？与 V1 的核心区别是什么？答案要点：• V1：通过分块计算注意力，减少显存占用（避免存储所有中间键值对）。• V2：引入 “内外循环交换策略”，将矩阵乘法的循环顺序调整为更适合 GPU 并行计算的模式，进一步提升计算效率，尤其在长序列场景下加速明显。3. 量化技术中，FP8、INT4 AWQ、INT4-FP8 AWQ 的适用场景和压缩率有何差异？4. RAG 系统中，文档切分粒度如何影响检索和生成效果？实际中如何确定最优粒度？5.在长序列推理场景中，PagedAttention 和 Prefix Caching 分别解决什么问题？如何配合使用？答案要点：• PagedAttention：将 KV Cache 分块存储在非连续显存中，避免显存碎片，支持处理超长序列（如百万 Token）；• Prefix Caching：缓存历史对话的 KV 对，跨请求复用，减少重复计算（如多轮对话中复用上文缓存）。配合逻辑：PagedAttention 解决显存限制，Prefix Caching 减少计算量，两者结合可提升长对话场景的效率和稳定性。6. 在企业级推理场景中，如何根据需求选择量化方案？举例说明短文本高并发和长文本场景的优化策略。实时客服系统用 INT4 量化加速响应；金融报告生成场景用 FP8+PagedAttention 处理数千 Token 输入。

✔️早上刚上班一次，此时还处于从通勤状态转换到工作状态的缓冲期。去上个厕所，回来再花一些时间整理桌面、吃早餐喝水等准备工作。✔️上午十点半一次，此时刚提交部分任务，在等mt批评的间隙去厕所摸鱼十分钟✔️中午十二点一次，在吃中饭前再一次去厕所清空肚子，准备午饭大吃特吃，查看互联网有没有发生什么大事儿✔️下午两点一次，清空午睡积攒的液体，为下午在公司偷水做准备 ✔️下午四点一次，此时再次提交部分任务，在mt骂人之前尿遁一会儿 ✔️下午六点一次，此时距离下班还有半小时，应当提前结束工作，提前解决大号，要知道公司纸和水都不用自己出钱，自己的小出租屋的钱是自己真的掏出来的

实习了半年~入职体验: 1.Mentor哥是从韩国留学回来的，而我的专业刚好是韩语。第一印象比较好！两个同事姐都非常非常有趣，中午下班一起吃饭一起drink，氛围很友好！ 2.我的工作内容比较简单，但上手会有很多细节的地方，我认为相比我之前的实习会有一丢丢的dirty work，但这也是难免的，更重要的是去体验和了解这个行业或者岗位，提前规划自己的职业道路 3.薪资待遇：运营150/天，产品200/天，需要打卡。9：30-18：30（弹性半小时）晚8点后下班晚饭免费，餐补30元，提供免费零食咖啡茶水健身房 4.得物有很多员工活动，有读书会、球类运动、狼人杀、脱口秀等等，非常有意思！ - 面试经...