攒人品中，祝大家都能拿到满意的Offer！1.项目拷打2.transformer中FFN的作用，如果去掉FFN纯用注意力会怎么样？3.batchnorm,layernorm和RMSNorm的区别和应用场景4.pre norm和 post norm各自的优缺点5.手撕：mid LeetCode 416. 分割等和子集

面AI岗，大模型基础原理、RAG 和 Agent 落地细节、Prompt 优化都必考，还会深挖项目里的踩坑点和解决办法，建议多结合自己做过的实际项目聊。

整体面试还是不错的，但是没后续了，不知道是哪里出了问题1.介绍实习项目中主要负责的工作和具体任务2.介绍实习项目中 GRPO 的设计思路，包括工具调用能力的设计考量3.简单讲解 yarn 的设计思路4.讲解原始 RoPE 的原理5.讲解 GRPO 的实现方式6.讲解 PPO 和 DPO 的相关原理7.讲解 Transformer 的 Encoder 和 Decoder 相关内容，包括 Encoder 的模块组成8.定义 rag 中召回率的计算和评判标准9.讲解 MHA 中 Q 的定义， Attention 计算过程10.说明 MHA 采用多头设计的原因11.对比 Encoder 和 Decoder 的主要区别12.讲解 MQA 和 GQA 的相关原理23．说明大模型中归一化操作的应用维度13.手撕1：最长括号序列

1. 你做过大模型数据处理的话，预训练数据清洗一般怎么做，去重、去噪、质量过滤分别解决什么问题？预训练数据清洗本质上是在控制“数据量”和“数据质量”之间的平衡。去重主要解决模型反复记忆同一批内容，避免浪费训练 token，也减少 benchmark 污染。去噪主要是过滤乱码、模板页、广告页、低信息密度文本、机器生成垃圾内容，不然模型会学到很差的语言模式。质量过滤更偏向保留高价值内容，比如结构完整、语义通顺、知识密度高、代码块规范或者问答对明确的数据。实际工程里一般不会只靠一个规则，而是多阶段处理：先做规则清洗，再做语言识别、长度过滤、内容打分，最后再结合 dedup 和采样策略。因为预训练效果...

Spring AOP怎么实现的 注解失效原因 就是拿不到代理对象RocketMQ怎么保证消息不丢失 幂等 重复消费最后问如果宕机了消息会不会丢 肯定不会丢最后说 说mq设计就不会让他丢消息满接口优化 RT多少 效果怎么样线程池配置MySQL MVCC怎么实现的简单说说你了解的RAG  会议转换客服怎么设计 提示词 Skills用什么AI比较多算法 生产者消费者模型建议 AI可以再学学

继续来分享下之前的面经~欢迎友好讨论，信息共享先项目拷打20min1.论文拷打2.既想要大模型的场景理解，又要解决推理延时问题，想做大小模型结合，核心的结合方式是什么？3.线上只能用小模型，但小模型没有足够的推理能力，想用大模型的推理结果，怎么办？4.面试官提醒做知识蒸馏，应该怎么做？

攒人品中！！！1.实习拷打2.项目拷打3.“手撕”买卖股票，说思路，时间复杂度4.对于分类问题，常用的损失函数有哪些？写一下二分类的交叉熵公式。Log loss 的作用？为什么取对数能方便梯度计算？5.对于回归问题，常用的损失函数有哪些？如果数据里离群点比较多，适合用 MSE 还是 MAE？分类问题可以用 MSE 吗？对比一下分类问题里交叉熵和 MSE 的区别。6.分类问题常用的离线评估指标有哪些？7.介绍一下 AUC 。ROC 曲线是怎么画？8.介绍一下精确率和召回率。9.F1 score 了解吗？作用？10.介绍一下注意力机制和公式，以及自/交叉注意力的核心区别。根号 DK 的作用？11.怎么解决梯度消失/爆炸12.线上 CTR 建模的训练数据，是模型排序后的曝光数据，属于有偏数据，怎么在建模中消除这个位置偏差？

感觉自己好菜、面试很难，还是要多多练习，感觉自己说不明白业务逻辑1.介绍实习项目自动化评测体系的设计方式2.实习项目中人工标注的相关情况，包括标注人员数量、标注方式3.实习项目中是否会基于人工标注数据定期重新训练模型4.实习项目中如何利用线上的真实反馈数据5.说明 Transformer 中归一化操作的作用6.谈谈对大模型各类微调方法的了解7.讲解 LoRA 的实现方式8.谈谈 GRPO 后续的优化方法，是否有相关了解9.介绍学校实验室中主要的研究方向和相关项目工作10.手撕2:MHA

1. 自我介绍2. 项目拷打3. 如果让你从 0 到 1 设计一个生产级 AI Agent 系统，核心架构怎么拆？生产级 AI Agent 系统一般拆成接入层、编排层、模型层、记忆层、工具层、知识层、状态层、观测层和安全层。接入层负责用户请求接入、鉴权、限流和会话管理。编排层负责意图识别、任务拆解、路由不同执行链路。模型层负责推理、规划、总结和结构化输出。记忆层负责短期会话记忆和长期用户记忆。工具层负责调用搜索、数据库、工单、日志、订单、风控等外部系统。知识层负责 RAG 检索、重排、知识库版本管理和权限隔离。状态层负责维护任务状态机、步骤执行记录、幂等控制和失败恢复。观测层负责 tracin...

攒攒人品！有面试过同岗的朋友欢迎评论区交流1、项目拷打2、八股：（1）解释一下attention机制，再讲讲你最近关注的模型的attention机制（2）QKV为什么要有K，直接V不行吗（3）BN. LN. RMS（4）位置编码（5）介绍RL，PPO、DPO、GRPO（6）为什么decoder only模型用的比decoder only模型多3、无手撕

📍面试公司：小米🕐面试时间：2026/03/26（二十分钟草草收场，都不想去看结果就知道挂了）💻面试岗位：大模型推理优化❓面试问题：一、自我介绍二、八股问题拷打，其实上来就是手撕1、直接在编辑器上手撕MGA，要求写出init、forward、注意力层   ——丢人现眼了，基本不会写2、追问，不会写的话讲一下整个过程，输入到输出怎么样的？         ——讲了讲transformer，注意力机制3、vllm和sglang的底层代码有看过吗？                                          ——没看过（其实看过，但我不敢说，怕叫我写）4、kv cache有哪些加载方式？                                                        ——在胡言乱语，啊这个，啊那个5、PD分离机制是干什么的？你怎么实现的？                                   ——唯一能回答的问题6、有没有用vllm部署过模型？吞吐量是多少？                                 ——脑子昏了，沉默（跑了demo，没测过）7、MTP（可能是MCP？没听清）是什么，介绍一下？                     ——我估计想问Medusa？反正我没回答，沉默。到这他问不下去了。。。三、反问两个人尴尬一笑，没什么要问的了。🙌面试感想：应该是史上最无悬念的秒挂，第一个手撕不会之后我已经晕头转向了，加上昨天熬夜到五点，到后面我都有点不好意思了，感觉在浪费他的时间，在这里跟他道个歉😀。十月到现在算上开发+infra可能面了二十多家吧，大部分都是秒挂，感觉车企infra这块的要求都特别高吧，问的特别细，就是最新的技术一定都要掌握，这一块技术迭代感觉特别特别快，光背八股面经给我感觉不太行。鼠鼠也累了，但自觉已经尽力了。也感谢这些至少还给机会面试的公司吧，有些简历直接投垃圾桶里了。（希望下一届的同学早早准备，不要像鼠鼠一样还在为春招奔波）。

1. 你做过的 Agent 项目里，Agent 和普通问答系统最大的区别是什么？普通问答系统更多是输入一个问题，模型生成一个回答，核心在回答质量。Agent 更强调任务闭环，不只是回答，还要规划步骤、调用工具、拿到结果、根据结果继续下一步，最后把任务完成。也就是说，问答系统重点是“说”，Agent 重点是“做”。如果项目里接了数据库查询、知识库检索、接口调用、审批流或者脚本执行，那基本就已经不是单纯的聊天系统了。2. 你怎么理解 Agent 的核心组成？一个完整的 Agent 一般包括模型、Prompt、工具、记忆、规划、执行控制这几部分。模型负责理解和推理，Prompt 负责约束行为，工具负...

攒攒人品！有面试过同岗的朋友欢迎评论区交流1．项目拷打2．你做的上下文扩大具体是怎么做的，原理是什么？3．相关长文本是怎么做几阶段训练的？4．除了所用的扩展方式， Deepseek 、 Llama 的长文本扩展方案是什么，为什么选择当前方案而非其他？5．若要将模型训练到1000K的上下文长度，该从哪些方面实现，其中的难点是什么？6.32B模型训练用到了多少显卡？7．若将上下文扩展到1000K，该如何估算训练的算力用量？8．上下文扩展到1000K后，训练时显存会在哪些地方暴涨？9．用 GRPO 做后训练的过程中，遇到的典型或较难的问题是什么？10．针对上述问题，训练 Skill 的具体方式是什么？11．从算法设计角度，该如何解决模型无效调用工具、工具调用参数失败的问题？

给我面没招了，发点面经攒攒人品～1.项目拷打2.语义漂移吗？如果遇到罕见病，模型产生‘幻觉对齐’导致误操，有没有方案去做兜底3.在医疗决策里，‘兴趣’是伪命题，‘合规’才是核心。用常规的DIN是做用户兴趣建模，但把DIN 里的激活单元改成了双线性交互这会不会导致模型对‘强特征’（如过敏史）的敏感度被‘软语义’稀释？4.知识库里既有权威指南又有脱敏病例。当这两者发生逻辑冲突时（比如新版指南否定了旧病例的方案），路由机制是怎么做确定性仲裁的？5.说的算子融合具体是怎么做的6.做生成式推荐重构，LLM虽然语义理解强，但天生带有选择偏见（。在冷启动场景下，怎么保证模型生成的物料序列不会陷入‘信息茧房’？7.手术机器人的环境是很复杂的，比如它组织形变是不规则的。你提到的不确定性感知），具体是基于传统的卡尔曼滤波还是基于大模型的分层鲁棒控制？当模型预测的8.动作序列与传感器实时反馈发生显著偏离，怎么实现毫秒级的安全制动9.用Pseudo-ID做时序追踪，但如果攻击者通过多维病理特征进行逆向重构，Embedding层做了哪些差分隐私处理10.手撕：Transformer block实现

祝大家都能拿到满意的Offer！1.项目拷打2.你们这里说的分层混合编排式 Agent 架构设计是具体怎么做的3.我问一个就是你们在Routing那里，你会根据难度去做不同的一个处理，对吧？那你们这个难度是怎么划分的呢4.你刚才提到就是说，比方说如果刚开始有动态升级的一个范式，就是比方说这个任务刚开始被分配到了7B但是如果它在生成的过程当中，置信度或者说生成的结果它的置信度比较低，你们这个置信度是怎么生成的呢5.你们大概配备了多少个工具6.以风险评估为例，你们的输入输出分别是什么呢7.你的字段是什么8.比方说你说的收缩压这个字段，在用户的问题当中可能不会有这样的一个检测数据。那这种情况你们是怎么来处理呢9.我看到你这里有说在引入了应用层的MOE按照任务动态的激活专家路径，这个具体是怎么实现的呢10.这里就有个问题，我们针对不同的科室去训练一个微调专家，那你们是你们怎么训练的呢？怎么针对于不同科室去训练的，第二个问题就是逻辑上你们这个专家数量可不会少，然后你们的工作量会比较大，这个问题你们又是怎么解决的呢11.你们最终大概是用了多少个专家12.每个大概训练的数据量是多少呢13你们的这个70b模型用的是自己？从头开始预训练的吗？还是用的开源的14那你们医疗数据你们医疗数据的主要来源是在哪里呢？

攒人品中，祝大家都能拿到满意的Offer！1.项目拷打2生成式推荐本质上是在做隐空间到离散iD的映射，你如何证明你生成的 ID 序列保留了用户意图的最优压缩3.比如广告场景下不仅仅是预估 CTR。如果我们将生成式排序引入 GSP拍卖，大模型生成的候选列表概率分布，如何保证满足激励相容性4如果模型生成的排序导致广告主出现竞价上的博弈呢5.在H100集群上跑生成式重排，现在的瓶颈不在计算而在存储带宽。如果分阶段推理，我在Prefill阶段采用了FlashAttention-3，但在 Decoding 阶段因为 KV Cache 导致的Fragmented Memory太严重，怎么办6.推荐系统要求毫秒级响应对于1B规模的排序模型，如果我要做Speculative Decoding，你如何设计那个Draft Model？这个小模型是该学大模型的 Logits 分布，还是该学用户的Embedding聚类7.假设构建一个端到端生成式广告系统。现在面临一个场景：某个新入驻的土豪广告主投放了一批高质量视频，但由于模型对新 ID 的 Semantic Indexing 尚未完全对齐，导致第一波推荐给了错误的人群，产生了极高的 Negative Feedback，生成式模型的自回归特性会不断放大这种“第一印象”，导致该广告主瞬间被屏蔽你如何设计一套Online Counterfactual Correction这种，在不重新训练模型的前提下，通过修改 KV Cache里的隐藏状态来强行挽回这批广告的生命周期9.在短视频重排阶段使用了一个 10B 的生成式模型但是业务反馈说模型在学会了今天最火的某个梗以后，竟然忘记了如何处理用户对“长尾科普视频”的旧兴趣，发生了明显的 Catastrophic Forgetting，设计一种基于 Gradient Orthogonal Projection的优化器，确保模型在更新实时热点知识时，参数更新量在旧知识的Null Space内。10.都知道生成式模型有位置偏差从 Attention Entropy 的角度来看，为什么 $N$ 个候选 Item 在序列中的排列顺序会直接导致 Logits 的非线性漂移

发点面经攒攒人品～1.项目拷打2.训练数据是如何构造的？如何做数据清洗、去重和质量控制？3.RLHF 的完整流程是什么？4.如果只使用 SFT，会带来哪些问题？5.在 RLHF 中奖励模型的训练数据是怎么构造的？6.如何避免奖励模型被策略模型“欺骗”？7.你怎么看当前大模型在对齐、安全和成本上的挑战？8.手撕：实现 区间第 k 小查询支持多次查询，要求接近 O(log n)

整体面试还是不错的，但是没后续了，不知道是哪里出了问题1.介绍实习项目时，重点讲你解决过最困难的问题以及最终的优化效果。2.你在训练大模型时用过哪些分布式训练方案？数据并行、模型并行、流水并行的区别是什么？3.DeepSpeed 的 ZeRO-1 / ZeRO-2 / ZeRO-3 的核心差异是什么？4.如果训练一个 70B 模型，如何估算单卡显存占用？5.除了 ZeRO，你还了解哪些训练优化方法？6.LoRA 的原理是什么？为什么低秩分解可以减少训练参数？7.LoRA 中矩阵 A 和 B 为什么通常采用不同初始化方式？8.手撕：实现 滑动窗口最大值

攒攒人品！有面试过同岗的朋友欢迎评论区交流1.介绍实习和论文2.介绍你熟悉的大模型架构追问：两者在注意力结构、训练策略和推理优化上的主要差异。3.为什么 MoE 架构能在参数规模继续扩大的情况下保持训练效率？4.MoE 的路由机制是怎么工作的？为什么会出现专家负载不均的问题？5.如果专家利用率很低，你会怎么优化路由策略？6.SFT 和 RLHF 在训练目标上有什么本质区别？为什么很多模型在 SFT 后仍然需要 RLHF？7.RLHF 中 PPO 的核心优化目标是什么？写出 PPO 的目标函数，并解释每一项的意义。8.手撕：实现 K 个有序数组的中位数