美团机器学习大模型实习二面分享

发一下问题给大家参考，攒攒人品！1.AI流式输出时，前端如何解决"打字机"效果带来的频繁DOM渲染导致的性能问题?2.在开发AI Agent时，前端如何管理复杂的Prompt模板以及变量替换逻辑?3.谈谈Function Calling(函数调用)的前端实现流程，前端需要做哪些配合?4.如何处理AI响应过程中的网络中断或内容截断?请设计一套容错机制。5.在直播间这种高频交互环境下，AI组件如何与直播间原有的状态(如点赞、弹幕)进行高效同步?6.谈谈React Fiber架构对AI聊天机器人这类长文本更新场景的意义。7.如果 AI返回的内容包含敏感信息被后端拦截，前端应该如何优雅地展示和处理?8.请解释Web Worker在AI前端开发中的应用场景，你会用它处理什么?

给我面没招了，感觉自己好菜、面试很难，还是要多多练习1.项目拷打2.你在去部署或者训练预训练或者后训练的模型时，有没有用过一些比较底层的一些训练的调试的工具，比如说千卡的话很容易就会出NCCL timeout，如果出现 NCCL timeout，一般怎么定位和解决？3.像那种rl里面的那个MOE之类的那种的优化有去做过吗4.看您的训练经验比较丰富，而且您上线运行的推理内容之前也进行过一些什么样的优化吗？5.有没有做过 kernel级别的优化？比如用 CUTE DSL或者手写 CUDA去做 fusion这类算子融合优化，介绍一下6像底层，如果你们在做.kernel fusion，倾向于用什么方式来做7.有没有哪次你做了 fusion 结果性能反而下降的？原因是什么8.平时写 CUDA的时候，有没有关注到底层实现细节？比如你刚提到 FA2，那再往下一层，像 Hopper架构里那个 warp specialization是什么，它底层大概是怎么实现的9.试过用 Agent去生成cuda内核么，怎么去做的10.如果我把 warp specialization 去掉，只保留 tile 和 shared memory 优化，大概会损失在哪？11.怎么么判断一个 MoE 模型是真的学到了分工，而不是只是把 dense模型拆开了12.在 RL + MoE 里，有没有遇到过 reward把 routing学坏的情况？就是模型为了拿 reward，全都走某几个 expert，这种情况你当时是怎么处理的

攒人品中，祝大家都能拿到满意的Offer！1.实习拷打2.为什么要用multi-head attention？3.PPO的clip机制？在线强化学习和离线强化学习有什么区别？RLHF是哪一种？4.为什么要用reference model? 为了解决什么问题？5.如何让多个agent协同工作的？举个具体的协同机制例子。6.如果一个agent误判导致策略冲突，如何处理？7.有没有用到类似AutoGen或LangChain的框架？为什么选这个框架？8.你是怎么设计agent的记忆系统？9.长期记忆如何存储？如果历史记录量非常大，怎么优化查询效率？10.你怎么处理响应速度与推理精度之间的tradeoff？是先召回再精排，还是单次生成？

发点面经攒攒人品～1、为什么引入父子索引？2、为什么在检索阶段引入 BM25？3、rerank 后一般返回几个块？4、rerank 后的 topK 截断是怎么做的？5、讲一下上下文工程是怎么设计的。6、记忆机制是怎么做的？7、Function Calling 是怎么设计的？8、Agent 的任务规划是怎么做的？9、Prompt 注入攻击如何防御？10、工具调用的安全控制是怎么实现的？11、讲一下分布式令牌桶限流。12、漏桶算法是什么？13、滑动窗口算法是怎么实现的？14、滑动窗口和令牌桶相比有什么区别？15、布隆过滤器讲一下。16、数据库索引失效的情况有哪些？17、like 查询会不会导致索引失效？18、RAG 系统如何评测？