美团校招大模型开发算法一面

1. Encoder与Decoder中注意力机制存在哪些差异？2. 注意力机制的计算流程是怎样的，为何在计算时要除以根号下Dk，掩码注意力机制又是怎样达成的？3. 阐述GQA、MQA、MLA的原理分别是什么。4. 位置编码的必要性体现在哪里，为何选用sin_cos函数进行位置编码？5. 询问之前实习中Agent的设计思路，以及所提创新方法的实现方式。6. 提及使用DeepSpeed开展SFT训练，请说明DeepSpeed ZeRO Stage 1 - 3的不同之处，以及何种情况下使用FSDP更为合适。7. 询问Agent工具的设计情况，是否采用workflow形式。8. 了解哪些Agent开发框架，像langchain和LlamaIndex，它们的核心应用场景有何区别？9. 针对数据输入输出格式，为保证大模型输出稳定json格式，采取了哪些措施？10. 若Agent推理API需要低延迟响应，会从哪些方面开展系统级优化工作？11. 代码考察：给出LeetCode第34题，在排序数组中查找元素的第一个和最后一个位置

实习经历里面哪个项目对你来说挑战比较大，有哪些技术难点，怎么解决的自己做项目过程中做了哪些性能优化，取得了怎样的成果执行栈是否会溢出 为什么在浏览器输入一个URL到页面渲染，这个过程中有哪些流程这个过程中对于浏览器来说涉及到哪些进程，这些进程之间怎么去协作去完成整个过程的这些进程之间是怎么通信的，举例说明反转单向链表统计英文句子中出现频率最高的单词（只考虑空格做分隔符）

1.八股：请分别说说你对 DeepSeek-V3 和 DeepSeek-R1 的理解，它们在架构或训练策略上有何关键差异？2.八股：Qwen系列基座模型的结构是怎样的？它的 Attention 和 FFN 层是如何设计的？3.八股：训练一个 8B 参数的大模型，大概需要多少显存？如果显存不够，你会用哪些技术缓解？4.项目：你们在 RAG 应用中是如何做效果评估的？具体用了哪些指标？5.项目：如果 RAG 系统输出错误答案，你怎么判断是检索模块的问题，还是生成模块的问题？有没有设计过归因实验？6.项目：你们是否专门训练了用于 RAG 场景的生成模型？它和通用基座模型在评估维度上有什么不同？7.项目：在 SFT 阶段，你们如何设计不同来源数据（如通用指令、垂域问答、CoT 数据）的配比？依据是什么？8.项目：针对垂域场景，模型效果如何评估？除了人工评测，有没有尝试自动化或半自动的评估方案？9.代码题：LeetCode 72 编辑距离

时间真的过得好快呀。想想我写的第一篇博客的时候，还在努力找实习中，当时因为实习面试通过，激动了特别久。而转眼间，我已经要准备离开这家公司了。从毕业到现在，已经在这家公司待了三年多了，如果算上实习的时间，已经有4个年头。甚至我在组内的时间，比大多数人都要长，也已经是组内的“老人”了。大家都说，对于毕业的第一家公司，感情都会很深，很舍不得。这是会的，而且毕竟在这里待了三四年，多少都会有点不舍，一起工作了这么久的同事。这篇文章作为我在自己这几年来的回顾和纪念，也希望能给到刚进入职场，或者准备离职的读者一些信息，写到哪算哪，我们开始吧。离职我大概是从去年开始有换工作的念头，到今年年初开始找工作，原因的...