高德AI Agent算法一面面经 1h

发发面经攒攒人品项目深挖1. 训练参数设置&资源配置细节2. DPO训练loss的直观含义3. 为啥不直接SFT，非要搞DPO4. 负样本构造逻辑追问：长链路GUI下正负样本长度不一有啥影响？原因是啥？5. 为啥选GRPO？对比过其他算法吗？6. tool response需要loss mask吗？理由是啥？7. 训练任务中mcp构造数量+具体case8. 训了几版模型？印象最深的bad case是啥？八股问答1. 看过AUTOGLM论文吗？其他大模型论文呢？印象最深的点是啥？2. 给定模型层数+隐藏层维度，估算参数量级+解释计算逻辑3. 同参数同序列长度，计算kvcache大小手撕代码流式输入输出处理规则1. 被包裹的字符直接隐藏2. mcp调用只输出instruction里的内容

这个问题，绝对是这两年新出现的，不知道大家什么时候开始做NLP的，我是22年的时候开始接触，那时候的NLP下面还有很多很多细分领域，就包括NER、RE这类知识抽取类工作，BERT几乎是我们绕不开的一个模型，如果说绕开了，用的也是类似RoBERTa这类改进模型。所以看到题目里的这个问题，很多人的第一反应是：还不是因为22年GPT一炮走红了，所以大家都跟着做。这个回答不能说错，但面试官通常不会继续追问，因为这说明你没有真正思考过这个问题。要把这个问题回答好，需要从历史演进和技术逻辑两个层面逐步拆解。（回答建议在文末）一、历史背景：2018年的分叉点先回到2018年。这一年NLP领域出现了两件标志性...

有面试过同岗的朋友欢迎评论区交流！1.若用户量大幅增长，实习的项目相关系统能否应对，瓶颈是什么?2.你平时会使用大模型处理哪些任务，觉得大模型在哪些任务上处理得好，哪些任务处理得不好?3.你做的另一个项目的核心目标和整体架构是什么?4.你做的另一个项目是生成文档还是生成核心代码?5.你做的另一个项目若工业界落地失败，会如何处理?6.你做的另一个项目在记忆模块设计上有什么思路，如何让相关技能更好地发挥作用?7.你做的另一个项目中，模型是如何选择的，有什么选择依据或方法?8.大模型幻觉问题该如何处理，服务化过程中会产生哪些相关问题?9.你做的另一个项目现在能否在本地运行?10.RAG的优缺点有哪些?11.多任务相关模型有什么适用场景?12.常见的Agent产品有哪些特质?13.若发现项目中模型执行不成功，会如何处理?14.长期记忆相关设计中，关键关注点有哪些?15.从整体设计角度，长期记忆相关功能会从哪些角度考量?16.长期记忆相关设计还有哪些可优化的点?17.Agent领域的发展趋势是什么?18.若代码生成成本越来越低，工程师的核心竞争力会发生什么变化?19.平时会通过哪些渠道关注AI技术动态?20.最近有没有遇到让你觉得印象深刻的AI应用，其情节或功能有较大亮点?21.进入项目后遇到新的工具技术，会如何评价技术是否能解决问题?

继续来分享下之前的面经~欢迎友好讨论，信息共享1. Transformer中Attention的本质是什么？你能从数学角度简要解释一下吗？2. 在Agent多轮对话任务中，你觉得Attention的局限性体现在哪些方面？3. 简要介绍一下SFT的核心流程，以及数据集的构建策略，SFT之后常见的Post-Training还有哪些？它们之间的目的有何区别？4. 什么是RAG，它是怎么提升生成质量的？与传统检索＋模型生成的流程有何不同？如何评估一个RAG系统是否work的？5. PPO和DPO在大模型对齐中的主要区别是什么？DPO训练通常有哪些注意事项？用过GRPO么？6. 项目里的Modular Agent，你能讲讲它是如何实现多步规划的吗？7. 项目提到了多个工具调用链路，调度策略是如何设计的？是否有异常fallback策略？8. Agent评估体系包括哪些维度？如何衡量planning能力 vs hallucination rate？9. 项目里微调Qwen，选择的训练阶段和Loss函数是如何决定的？10. Prompt自动推荐模块用了哪些优化策略？有没有尝试过Prompt压缩或embedding表示的方式？11. 场景题：假如一个Agent 推理链路包含3个工具+高频请求，系统整体延迟较高，你会如何优化？12. 代码：岛屿数量