被横向挂了，希望发出来对大家有帮助！1* 简单概述你简历中的两个项目，包括项目背景以及你的具体分工，是独立完成还是团队协作2* 项目的数据来源是什么？你是如何确定优化目标的？3* 比如数据从 100 条扩充到 1.2 万条，是否全通过自动化生成？生成的样本具体是什么样的？举个例子说明一下生成前后的对比4* 怎么保证自动化生成数据的正确性呢5* 在通过调整参数直到模型回答正确为止的过程中，是否意味着生成的CoT中存在错误逻辑？6* 经过数据清洗后，最终用于SFT的有效数据量是多少？7* 在做微调时，除了 LoRA 是否对比过其他的微调算法8* 你是如何评价微调效果的？测试集的比例是多少？微调前后的准确率分别是多少？原有的模型性能保留了多少？9* LLM常用的结构是什么？10* 说一下Transformer 的整体结构11* 目前主流大模型最常用的位置编码是什么？。12* 写一下多头注意力机制的数学公式。13* 公式中为什么要除以 \sqrt{d_k}？其对梯度消失或梯度爆炸有什么影响？14* 在 Transformer 的 Encoder 和 Decoder 中，哪些部分是可以并行计算的，哪些不可以？15* 除了 LoRA，你还了解哪些微调方法？16* 大模型训练通常使用什么损失函数17* 在机器学习基础中，二分类问题、多分类问题以及回归问题分别使用什么损失函数？18* 你了解哪些优化算法19* 模型训练中出现过拟合的常用解决方案有哪些？20* Dropout 在训练阶段和预测阶段的处理方式是否一致？为什么要这样做？21* 大模型中的“复读机问题重复生成是什么原因导致的？如何从解码策略或训练层面解决？22* 幻觉问题产生的原因是什么？目前常用的工程解决方案有哪些？23* 写出逻辑回归的数学公式。

很短，半个小时，没手撕和八股自我介绍，问了一下毕业时间和学校情况主要是围着项目问的项目1:你们用的开源数据集，数据可信度有没有考虑过？项目2:数据集是经过什么处理存到向量数据库的？介绍一下rag一些rerank算法rag效果怎么评估的？最终输出效果怎么评估的？（猜测提问逻辑是根据rag的链路来的。即“数据清洗 -> Chunking（分片策略）-> Embedding -> 向量检索 -> Rerank（重排序）-> 生成”）项目3:现在近似最近邻算法都比较成熟的吧，你们是从算法还是应用上做优化？为什么还要做呢，这些技术不都很好了吗？（翻译：项目背景是什么，优化点在哪里）你是搜索做了加速，那有没有考虑过预处理成本，有没有去衡量评估过？反问问了一下业务，toB的，有一些知识图谱和一些ai方法的应用（？）听起来主要是在探索和迁移新技术

给我面没招了，发点面经攒攒人品～1*当大模型产生错误回答或幻觉时，在工程和算法层面有哪些规避手段？2* 描述 Transformer Decoder 的完整解码流程。3* KL 散度的数学意义是什么？在模型对齐（如 PPO/DPO）中起什么作用？4* MoE架构的具体实现原理是什么？路由（Router）是如何工作的？5* 面对模型在生成过程中出现循环、重复回答的问题，有哪些解决办法？6* BM25 算法的数学原理是什么？它相比于简单的 TF-IDF 有哪些改进？7* Agent 系统中的LangGraph是如何搭建的？其 Memory 组件的工作机制是怎样的？8* 如果单次生成的任务量远大于模型的 Max Tokens 限制，如何实现断点继续生成？9* Transformer 中 Attention 的本质是什么？请从数学角度解释。10* 为什么在计算 Attention 时需要进行Scaling11* Self-Attention 和 Cross-Attention 在作用和输入来源上有什么区别？12* 面对极长序列Attention 的 O(L^2) 复杂度问题目前有哪些主流解决方案？13* 在 Agent 多轮对话任务中，Attention 机制的局限性体现在哪些方面？14* 为什么模型在长上下文对话中容易出现“信息遗忘”？有哪些缓解机制？15* 介绍 SFT的流程，以及如何构建高质量、多样化的数据集？16* 在什么业务场景下，必须引入 RLHF 或 DPO 这种偏好对齐技术？17* MinerU 在解析复杂的工业文档（如图文混排）时，具体的处理逻辑是怎样的？18* 在多模态检索中，文本和图片是如何映射到同一个统一向量空间的？19* Ragas 评测框架中的 Faithfulness 和 Answer Relevance 指标的具体计算逻辑是什么？20* 相比于 LangChain，LangGraph 在处理循环任务和状态管理上有哪些优势？21* LangGraph 的状态快照机制是如何实现任务回溯和持久化的？

面试很难，还是要多多练习，感觉自己说不明白业务逻辑1.写一下attention公式(代码实现了下)2.训练时为什么要mask，推理时也需要吗?两处有什么区别?推理时的sequencelength和训练时一样吗3.transformer和传统seg2seg模型有什么区别?4.计算attention时为什么要除以dk，这个dk的含义是?attention计算时还有哪些scale处理?5.attention中softmax函数作用、公式、为什么有减去最值的处理?换个函数还能这样处理吗?6.解释数值上溢、下溢问题7.讲一下prompt书写的经验，如何判断prompt是否达标何改进prompt8.讲一下SFT，会对哪部分计算loss?为什么?9.讲一下deepspeed10.训练用一个7b模型要占用多少显存?不同zero阶段能够节多少显存?11.训练模型时用了几张卡，有遇到什么异常中断问题吗?

1.拷打上一段实习2.如果一个材料既有图片又有文字，如何分块3.mcp服务器细节，如何与llm关联的4.mcp安全性如何保证，鉴权具体是怎么做的5.如何防止重放攻击，如何保证前向安全性6.存储在本地key如何防止泄露7.skills是什么，与mcp有什么区别8.闲聊

继续来分享下之前的面经~欢迎友好讨论，信息共享1.了解DeepSeek-R1吗?介绍一下?2.R1的MLA是如何实现KV-Cache的节约?3.R1在SFT时冷启动的目的?4.位置编码是什么?解释ROPE?5.一个14B的模型，推理和训练要多少显存?6.显存的占用和哪些因素相关?7.大模型灾难性遗忘是什么?如何解决?8.BF16、 FP16、FP32对比。9.Adam, AdamW原理。10.deepspeed的三个阶段。

段段投简历之前也没想到啊，猎头推荐的职位，居然是专家岗，后来想想就当攒面经了，咱也见识见识专家岗面试到底咋样，由于最开始忘了录音的事，所以没录上，最开始就是问了一些基础的东西。 话说回来，给这么多money，我感觉这钱纯纯拿命换啊。 话不多说，上链接！啊不对，上面经。 从面试问题来看，这一轮非常侧重于后端基础开发（Go/MySQL/Redis）以及大模型项目（特别是 RAG 检索增强生成）的工程落地细节。（段段的Go都是在公司硬着头皮上，然后带着学的，面试突击了一下）一、 大模型工程化与 RAG 落地Q1：商机智能体项目的背景与你的核心职责是什么？ 回答： 介绍了项目目标是为了提升商家的客服效...

发一下问题给大家参考，攒攒人品！有面试过同岗的朋友欢迎评论区交流1.实习拷打2.项目拷打3.处理查询文档里的异构数据(如图片)时，具体的处理流程是什么?解析成纯文字后如何进一步加工?这样只返回文字给用户，图片信息不会丢失吗?4.你们是通过人工打标建立图片和文本的对应关系吗?文档量很大的情况下，打标工作能完成吗?5.如何保证大部分图片异构数据解析后回答的正确性?若回答错误，怎么识别问题?后续要验证回答准确性，你有什么方案?6.用于评测的另一个大模型，如何构造问题、分析文字并进行对比?这个大模型的正确率以及模型自我一致性怎么确定?7.你们的模型基于哪些异构图像做增强?模型会不会产生幻觉，生成文档外的内容?8.若用户的问题不在文档里，你们会怎么处理?是调用其他模型吗?大模型回答不了时，会提示用户补充问题吗?用户补充后仍无法解决该怎么办?模型如何判断何时需要让用户补充提问?9.你们有框架编排这些流程吗?用的是什么框架?10.怎么理解检索召回率?这些指标具体包含哪些评价项?什么是忠实度?召回率的分子分母是怎么定义的?11.你之前那段实习的具体工作内容是什么?针对设备故障叙述报告这类复杂文本，模型如何理解?是做了相关检测吗?大模型是怎么实现术语解释的?12.请讲一下LoRA技术，除了减少参数量，它还有什么优点?你做的LoRA相关工作，后续有落地应用吗?13.你写代码主要用Python吗?会不会用Java?了解Java的多线程、双亲委派模型以及消息中间件吗?有没有做过Java相关项目?

给我面没招了，感觉自己好菜、面试很难，还是要多多练习1，介绍RAG流程；介绍对编码模型的了解、原理、优缺点；如何评估编码模型的能力2，RAG有哪些分类；多模态RAG有哪些实现框架；伪多模态RAG和多模态RAG分别怎么实现，有什么区别；CLIP可以用于哪一类多模态RAG，为什么3，RAG怎么评估，RAG评估体系中最重要的是什么4，传统RAG有什么痛点；介绍GraphRAG，GraphRAG的难点是什么；GraphRAG如何应对增量场景5，介绍微调负责的工作；大模型微调最重要的是什么6，后训练有哪些方式；微调有哪些方式，分别是怎么做的；LoRA原理及参数量7，介绍DPO；DPO与PPO的区别8，介绍一些Agent的实现框架；这些框架有什么区别；LangGraph适用于什么场景；LangGraph构建Agent的方式有哪几种9，我这里有个场景，就是客户输入一个软件或网页界面截图，怎么通过RAG的方式帮助用户了解界面的每一个组件的作用，输入输出自己定义；相似的组件如图片框和视频框怎么去区分10，算法题：2n+1个数，两两成对，找出单独的那个数

发一下问题给大家参考，攒攒人品！1. 实习拷打2. 项目拷打3. 小程序里调用setData后，发生了什么？4. 小程序双线程架构的原理5. 简述React中的Fiber架构的原理6. 为什么Vue不需要Fiber设计？7. React 如何做性能优化？8. 使用过哪些打包工具？是如何做打包优化的？9. HTTP1、2、3各个版本的协议有哪些区别？10. 你Agent 系统里边技术选型是怎么做的 ？11. AI对话里的流式渲染的实现方式？12. 为什么选SSE？说一下你们SSE是怎么实现的，怎么断点重连的？你怎么判断服务端断开了？13. Markdown 分块渲染算法你们是怎么做的？为什么要这么做？主要解决了什么问题？14. 假设用户一次性paste了一万行markdown进去，而且他在滚动的时候卡住了，你是怎么处理？15. 假若有个调用后台接口的场景：前端调B系统接口，但接口不支持 OPTIONS，你怎么绕过去？16. 假如用户说页面白屏或者功能报错了，你会怎么排查？你们生产上有没有遇到用户点开页面直接白屏的？你第一时间怎么排查？17. 使用过哪些AI产品？有哪些优缺点？

发一下问题给大家参考，攒攒人品！有面试过同岗的朋友欢迎评论区交流1.实习拷打2.项目拷打3.处理查询文档里的异构数据(如图片)时，具体的处理流程是什么?解析成纯文字后如何进一步加工?这样只返回文字给用户，图片信息不会丢失吗?4.你们是通过人工打标建立图片和文本的对应关系吗?文档量很大的情况下，打标工作能完成吗?5.如何保证大部分图片异构数据解析后回答的正确性?若回答错误，怎么识别问题?后续要验证回答准确性，你有什么方案?6.用于评测的另一个大模型，如何构造问题、分析文字并进行对比?这个大模型的正确率以及模型自我一致性怎么确定?7.你们的模型基于哪些异构图像做增强?模型会不会产生幻觉，生成文档外的内容?8.若用户的问题不在文档里，你们会怎么处理?是调用其他模型吗?大模型回答不了时，会提示用户补充问题吗?用户补充后仍无法解决该怎么办?模型如何判断何时需要让用户补充提问?9.你们有框架编排这些流程吗?用的是什么框架?10.怎么理解检索召回率?这些指标具体包含哪些评价项?什么是忠实度?召回率的分子分母是怎么定义的?11.你之前那段实习的具体工作内容是什么?针对设备故障叙述报告这类复杂文本，模型如何理解?是做了相关检测吗?大模型是怎么实现术语解释的?12.请讲一下LoRA技术，除了减少参数量，它还有什么优点?你做的LoRA相关工作，后续有落地应用吗?13.你写代码主要用Python吗?会不会用Java?了解Java的多线程、双亲委派模型以及消息中间件吗?有没有做过Java相关项目?

攒人品中，祝大家都能拿到满意的Offer！1.项目深挖2-提问paper的设计，baseline以及RL的思路讲解3-问：DAPO相比于GRPO改进了什么4-提问过往实习经历的细节5-开放式探讨：现在的LLM， SFT和RL 到底应该选择哪一个？6-代码题目：反转链表

给我面没招了，发点面经攒攒人品～1.GRPO 和 PPO 在 RLHF 中的核心区别是什么？2.KL 散度在 RLHF 中的作用是什么？它的公式如何直观理解？3.vLLM 的核心优势是什么？它是如何通过 PagedAttention 提升显存利用率的？4.Qwen3 和DeepSeek-R1 在架构上有哪些关键差异？5.微调数据集的结构是怎样的？有多少条？数据清洗和有效性验证是怎么做的？6.奖励函数是如何设计的？7.怎么避免模型靠堆字数刷奖励？8. KV Cache 在长上下文推理中可能被污染，你们有做缓存隔离或清理机制吗？9.本地部署时，如何平衡vLLM 的上下文长度和显存占用？是否做过量化或动态批处理？10.手撕：乘积最大子数组（LeetCode 152）

整体面试还是不错的，但是没后续了，不知道是哪里出了问题1、实习经历深挖2、是否有进行消融实验来验证效果？3、lora核心思想4、论文深挖5.、为什么现在mlp的激活函数都用relu 为什么不用sigmoid/Tanh ? 6、 怎么能把序关系学得更好  7、AUC 、回归类AUC 物理含义和计算方式  8、Loss乘10和学习率乘10之间有什么区别无手撕

1. 医疗数据来自哪里，原始格式是什么常见来源：电子病历、指南文档、药品说明书、问答语料、结构化表。原始格式可能是txt/doc/pdf/json/csv/数据库表，需做脱敏与字段规范化。2. 使用什么标注工具，如何分配标注任务常用doccano、label studio。任务分配一般按疾病域或实体类型切分，双人标注+仲裁提升一致性，使用IAA（如Kappa）评估质量。3. 使用什么标注规则，详细解释规则通常包含：实体边界规则、歧义词处理、缩写规范、嵌套实体策略、关系触发词定义、冲突优先级。需要沉淀《标注指南》并版本化管理。4. 如何实现数据预处理，中间步骤有哪些流程：去噪清洗 → 分句分词 ...

发一下问题给大家参考，攒攒人品！1、实习拷打2、reward函数是如何设计的？数据集的配比是怎样的？3、inductive learning和transductive learning有什么区别？4、Viking是什么？相关业务背景是什么？5、冷启动时，不同专家模型特征输入为什么不同？6.编码树如何构建？为什么使用高斯分布？7、id特征为什么学习效果不好？8、给你整数 delay 和 forget，以及整数 n。每个人在发现秘密后的 delay 天开始，每天可以分享给一个新的人。在发现秘密 forget 天后会忘记秘密，忘记后不再分享。求第 n 天结束时知道秘密的人数

给我面没招了，发点面经攒攒人品～1.介绍一下你的实习经历和主要工作内容。2.在微调大模型时，你使用过哪些框架？它们的优缺点分别是什么？3.CLIP 模型的 zero-shot 能力是如何实现的？它在多模态任务中的应用有哪些优势？4.Transformer 中 Pre-Norm 和 Post-Norm 的设计差异是什么？对模型训练稳定性和性能有何影响？5.在生成式大模型中，为何通常采用 Decoder-only 架构而非 Encoder-Decoder 结构？6.请描述大模型中自然语言理解模块的具体实现方案，包括语义解析和意图识别的关键技术。7.针对 Transformer 模型推理过程，你会采用哪些优化手段？8.请阐述RAG的核心原理，并说明如何通过 RAG 缓解大模型的幻觉问题。9.vLLM 框架的核心优化原理是什么？其在动态批处理和显存管理上有哪些创新设计？10.请对比 RLHF、PPO、DPO 算法的技术差异、优缺点及适用场景。

1. 谈谈深度学习中的归一化问题深度学习中的归一化，核心目的是让不同层、不同特征的数值分布更稳定，从而加速训练并提高收敛稳定性。常见归一化包括输入归一化（如像素缩放到[0,1]）、BatchNorm、LayerNorm、GroupNorm。BatchNorm在mini-batch维度统计均值方差，适合CNN场景；LayerNorm在特征维度统计，常用于NLP和Transformer。归一化可以缓解梯度消失/爆炸、允许更大学习率、降低参数初始化敏感性。 import torch.nn as nn # CNN里常见 BatchNorm2d cnn_block = nn.Sequential( nn...

继续来分享下之前的面经~欢迎友好讨论，信息共享1.实习拷打2.项目拷打3.模型为什么不直接用单任务估 pcvr，这不是更直接？4.为什么多任务模型比单任务更好？5.特征层面进Sharebottom特征怎么选的？6.广告模型用的特征具体有哪些类别？7.用户侧特征都有什么？8.自己有具体去看过特征吗？比较重要的有哪些？9.做网络优化前有考虑先从特征统计层面做优化吗？10.PLE和MMoE用过没？为什么效果不如当前的模型优化？体现在哪里？11.共享屏幕随便打开一个讲 MMoE 的博客讲一遍12.MMoE 你觉得最大的亮点在哪里13.MMoE 伪代码14.关于增量特征，从原始特征选一部分，而不是做更多新特征，这点怎么考虑的？15.八股 QKV怎么做并行的 写个伪代码