阿里淘天 大模型春招二面-搜推产品部

继续来分享下之前的面经~1.介绍RAG项目，整体架构和实现思路2.RAG中的检索模块召回错误结果时，你会如何处理？3.RAG出现漏召的情况，你会如何优化检索模块？4.如何评估RAG系统的效果？有哪些评估指标？5.解释LoRA高效参数微调的原理，为什么要用低秩分解？6.DPO训练中模型输出变长是什么原因？如何解决？7.大模型出现复读机现象的原因是什么？有哪些解决方法？8.SFT微调后模型的通用能力出现遗忘，你会如何处理？9.Wide&Deep模型的原理是什么？Wide部分和Deep部分分别解决什么问题？10.DIN模型相比传统推荐模型有什么改进？11.L1正则和L2正则的区别是什么？从数学角度解释为什么L1能产生稀疏性？12.SQL：统计每个商家的评论数并去重13.手撕代码：编辑距离

1. 大语言模型的 RLHF 训练流程是什么，它存在哪些潜在风险RLHF 一般分三步。第一步是 SFT，用高质量指令数据把基座模型调成能听懂任务、按格式回答的模型。第二步是训练奖励模型，把人工偏好数据整理成 chosen 和 rejected 形式，让奖励模型学会判断两个回答哪个更好。第三步是强化学习优化，最经典的是 PPO，让当前策略在奖励更高的方向上更新，同时用 KL 约束避免模型偏离初始策略太远。它的风险主要在三个地方。第一，奖励模型可能学偏，模型最后学到的是“讨好奖励模型”而不是真正更有帮助。第二，强化学习阶段如果约束不够，模型容易出现 reward hacking，看起来分数高，但真...

给我面没招了，感觉自己好菜、面试很难，还是要多多练习1.项目拷打2.你在去部署或者训练预训练或者后训练的模型时，有没有用过一些比较底层的一些训练的调试的工具，比如说千卡的话很容易就会出NCCL timeout，如果出现 NCCL timeout，一般怎么定位和解决？3.像那种rl里面的那个MOE之类的那种的优化有去做过吗4.看您的训练经验比较丰富，而且您上线运行的推理内容之前也进行过一些什么样的优化吗？5.有没有做过 kernel级别的优化？比如用 CUTE DSL或者手写 CUDA去做 fusion这类算子融合优化，介绍一下6像底层，如果你们在做.kernel fusion，倾向于用什么方式来做7.有没有哪次你做了 fusion 结果性能反而下降的？原因是什么8.平时写 CUDA的时候，有没有关注到底层实现细节？比如你刚提到 FA2，那再往下一层，像 Hopper架构里那个 warp specialization是什么，它底层大概是怎么实现的9.试过用 Agent去生成cuda内核么，怎么去做的10.如果我把 warp specialization 去掉，只保留 tile 和 shared memory 优化，大概会损失在哪？11.怎么么判断一个 MoE 模型是真的学到了分工，而不是只是把 dense模型拆开了12.在 RL + MoE 里，有没有遇到过 reward把 routing学坏的情况？就是模型为了拿 reward，全都走某几个 expert，这种情况你当时是怎么处理的

部门做的业务是AOI和POI相关的高并发LBS，面试前复习了一下八股和项目，还看了几个京东零售的面经，结果全程在问我高并发点、线、面计算之类的（可能是因为我是地信专业简历上带了个GIS项目），怎么和别人的面经不一样啊呜呜呜1.自我介绍（本人一段GIS后端的单体项目实习，完全没有接触过高并发下的LBS，还有两个项目，一个RAG，一个仿12306）2.详细说一下你们的空间查询是怎么做的3.也就是画了一个围栏之后，查围栏里面的点，那你知道怎么判断一个点在不在围栏内吗，包含函数的原理是什么4.那你了解空间索引吗5.那Geohash或者四叉树你了解过吗6.墨卡托投影呢7.（假设场景）如果在高并发场景下，...