讯飞飞星AI infra校招面经

给我面没招了，感觉自己好菜、面试很难，还是要多多练习，感觉自己说不明白业务逻辑1.说一下vllm里schedule的过程；2.说一下vllm请求被抢占后续会怎么样；3.说一下投机采样推理时草稿模型和主模型交互流程，vllm和sglang中的实现有什么区别；4.说一下gptq量化、smooth quant原理；5.介绍一下DeepSeek V3 eplb推理；6.mla在prefill和decode时的计算复杂度区别，听说过mla矩阵吸收优化吗；7.dsv3.2有什么创新点；8.sglang里多模态如果开了tp，vit的image embedding在多个进程里是怎么高效复用的

继续来分享下之前的面经~欢迎友好讨论，信息共享1.项目拷打2.大模型推理加速办法3.压缩量化方法有哪些 量化的优点有哪些4.权重量化、激活值量化、kv cache量化都有什么好处5.kv cache原理 了解page attention吗 为什么效果好6.了解prefix cache吗7.ai应用（agent）的构建大致讲一下包含哪些模块8.手撕 一个环有10个点0-9，0开始出发，每步顺时针或逆时针走一个点，求经过n步回到0点有多少种不同走法

1.Transformer相比MLP的优点2.介绍MHA、GQA和MLA3.算法和Infra工作有什么不同，侧重点分别是什么4.如何优化模型训练中的访存5.有没有算子开发优化经验6.介绍下针对k散度算子做了哪些优化7.了解PagedAttention吗8.Trition和CUDA区别9.手撕代码1)MHA2)C++编程

一面面经分享，差不多面了五十多分钟1. 项目深挖，问得非常详细2. 如何通过Profiling定位瓶颈？（带宽利用率、流水线空泡、指令耗时）3. Matmul分块策略4. 手撕：n! 中尾随 0 的个数5. 手撕：买卖股票的最大利润