阿里淘天AI Agent二面面经分享

继续来分享下之前的面经~欢迎友好讨论，信息共享1.项目拷打2.JVM内存模型中的堆和栈有什么区别？3.消息队列如Kafka如何保证消息不丢失？4.设计模式中工厂模式和抽象工厂模式的区别？5.对比了Go和Java，问了多态的应用场景6.AI方向继续深入：Agent和RAG区别、如何借助AI实现需求

1. 大语言模型的 RLHF 训练流程是什么，它存在哪些潜在风险RLHF 一般分三步。第一步是 SFT，用高质量指令数据把基座模型调成能听懂任务、按格式回答的模型。第二步是训练奖励模型，把人工偏好数据整理成 chosen 和 rejected 形式，让奖励模型学会判断两个回答哪个更好。第三步是强化学习优化，最经典的是 PPO，让当前策略在奖励更高的方向上更新，同时用 KL 约束避免模型偏离初始策略太远。它的风险主要在三个地方。第一，奖励模型可能学偏，模型最后学到的是“讨好奖励模型”而不是真正更有帮助。第二，强化学习阶段如果约束不够，模型容易出现 reward hacking，看起来分数高，但真...

继续来分享下最近的面经~1. RAG的HyDE技术中，如果生成的代码片段质量不佳会影响后续检索效果，如何衡量生成的代码片段的效果？2. 在某一垂直领域Lora微调时，微调过程设置过哪些参数？3. 了解模型的TOKEN吞吐量吗？本地部署模型的吞吐量大概在多少？4. 向量数据库的选型方案？常见的向量数据库有哪些？5. 分布式ID是如何保证生成不会重复？你知道哪些实现方案？6. 介绍一下G1回收器。无手撕

面试完在写面经呢，一看邮件，5分钟的时间给我挂了，笔试也直接给取消了。面试官整个过程都是笑呵呵的，问题也基本答上了，整场体验感挺好的，本来以为稳操胜券，结果被他装糖阴了一手（反问环节还问他后续的面试流程，丢人丢大发了）。整个过程太抽象了，简历项目是一个没问，倒是对我简历上写的个人技能（熟悉什么东西）逐个进行了一次 DFS，越问越离谱，最后跟 AI 应用完全没啥关系了。问的问题太多了，不太能完全回忆起来，只能回忆一下大致有哪些问题，详情如下：1. 简历上写的熟悉 C++ 语言，问的问题：平时用的什么标准的 C++ 语言；是否了解模板；用过什么 STL；set 和 map 是否了解，底层怎么实现的...