阿里大模型算法校招面经 攒人品版

给我面没招了，发点面经攒攒人品～1*当大模型产生错误回答或幻觉时，在工程和算法层面有哪些规避手段？2* 描述 Transformer Decoder 的完整解码流程。3* KL 散度的数学意义是什么？在模型对齐（如 PPO/DPO）中起什么作用？4* MoE架构的具体实现原理是什么？路由（Router）是如何工作的？5* 面对模型在生成过程中出现循环、重复回答的问题，有哪些解决办法？6* BM25 算法的数学原理是什么？它相比于简单的 TF-IDF 有哪些改进？7* Agent 系统中的LangGraph是如何搭建的？其 Memory 组件的工作机制是怎样的？8* 如果单次生成的任务量远大于模型的 Max Tokens 限制，如何实现断点继续生成？9* Transformer 中 Attention 的本质是什么？请从数学角度解释。10* 为什么在计算 Attention 时需要进行Scaling11* Self-Attention 和 Cross-Attention 在作用和输入来源上有什么区别？12* 面对极长序列Attention 的 O(L^2) 复杂度问题目前有哪些主流解决方案？13* 在 Agent 多轮对话任务中，Attention 机制的局限性体现在哪些方面？14* 为什么模型在长上下文对话中容易出现“信息遗忘”？有哪些缓解机制？15* 介绍 SFT的流程，以及如何构建高质量、多样化的数据集？16* 在什么业务场景下，必须引入 RLHF 或 DPO 这种偏好对齐技术？17* MinerU 在解析复杂的工业文档（如图文混排）时，具体的处理逻辑是怎样的？18* 在多模态检索中，文本和图片是如何映射到同一个统一向量空间的？19* Ragas 评测框架中的 Faithfulness 和 Answer Relevance 指标的具体计算逻辑是什么？20* 相比于 LangChain，LangGraph 在处理循环任务和状态管理上有哪些优势？21* LangGraph 的状态快照机制是如何实现任务回溯和持久化的？

1. xgboost 为什么叫梯度提升树因为它本质上就是：树：基学习器是 CART 回归树提升：一棵一棵往上加梯度：每一轮拟合的是损失函数对当前预测的负梯度普通提升树可以理解成拟合残差，XGBoost 是把“残差”推广成了更一般的梯度下降框架，而且用了二阶导信息，所以比传统 GBDT 更强。2. 知道什么概率模型？朴素贝叶斯，说一下贝叶斯的思想概率模型就是用概率分布描述数据和变量关系的模型，比如：朴素贝叶斯HMMCRFGMM贝叶斯网络贝叶斯思想就一句话：先验 + 数据 = 后验。公式：[P(A|B)=\frac{P(B|A)P(A)}{P(B)}]朴素贝叶斯做分类时，假设特征在给定类别下条件独...

有面试过同岗的朋友欢迎评论区交流1.GRPO 和 PPO 在 RLHF 中的核心区别是什么？2.KL 散度在 RLHF 中的作用是什么？它的公式如何直观理解？3.vLLM 的核心优势是什么？它是如何通过 PagedAttention 提升显存利用率的？4.Qwen3 和DeepSeek-R1 在架构上有哪些关键差异？5.微调数据集的结构是怎样的？有多少条？数据清洗和有效性验证是怎么做的？6.奖励函数是如何设计的？7.怎么避免模型靠堆字数刷奖励？8. KV Cache 在长上下文推理中可能被污染，你们有做缓存隔离或清理机制吗？9.本地部署时，如何平衡vLLM 的上下文长度和显存占用？是否做过量化或动态批处理？10.手撕：乘积最大子数组（LeetCode 152）

1、简单讲一下，MCP 是什么？它和 function call 有什么区别？MCP，一般指 Model Context Protocol，本质上可以把它理解成一种让大模型和外部工具、外部数据源、外部能力进行标准化连接的协议。它不是单纯某一个函数调用接口，而是想解决“大模型怎么以统一方式发现工具、读取资源、调用能力、获取上下文”这个问题。如果只说直白一点，MCP 更像是给大模型接外部世界时定义了一套“通用插口”。比如一个 Agent 想访问数据库、文件系统、知识库、内部服务，如果每接一个系统都单独写一套协议，维护成本会很高。MCP 的思路就是把这些能力抽象成统一的协议层，让模型或 Agent ...