字节大模型Agent算法二面-秋招面经

1.你的 Agent 系统Prompt 是怎么设计和迭代的？有没有做过 Prompt 自动优化？当用户提出不完整的请求时，如何补全用户意图的？2.构建 Agent 的时候，遇到过哪些瓶颈？LangChain 的 memory 默认机制在多3.用户并发中怎么做隔离？你是如何保证线程安全的？4.微调 Llama2 你是怎么选择训练样本的？清洗逻辑是什么？你有没有观察到哪些训练样本质量问题对模型行为有很大影响？举例说明。5.DPO相比 SFT，有哪些优劣？它在 Agent 任务上效果提升明显吗？你怎么构造偏好对？构造逻辑是自动的还是人工？6.你说你服务部署在 vLLM 上，为何选择它？KV-cache 如何帮助推理加速？你自己做过哪些优化？7.假如需要支持 Streaming 输出，但当前服务延迟又超标，你会怎么折中设计？8.多轮对话上下文状态管理是如何做的？如何在高并发场景下保证一致性？9.你做的 Agent 使用了多少个外部工具，在调用链条上如何保障故障容错和超时机制？10.有没有做过工具调用失败后的feedback策略设计？11.训练过程中数据来自用户行为日志，你是如何从这些数据中抽取训练对话的？有没有做过归一化或事件抽象？12.有没有了解过带有时间窗口/偏移限制的对话系统？模型怎么“理解时间”？13.你觉得 Agent 哪些模块最容易在真实业务中出问题？你会如何监控和定位的？

我在职场摸爬滚打多年，看过数千份简历，也亲自带过不少实习生。关于“一段长期深度实习” vs “多段短期浅尝辄止”，这其实是大学生职业规划中非常经典的一个博弈。 如果非要给个一锤定音的结论，作为招聘方，我的答案是： 在大多数情况下，一段有结果、有闭环的“长期深度实习”，远比三四段走马观花的“短期体验”要“香”得多。 但我会把这个问题拆解开来讲，因为不同阶段，策略不同。以下是我从**招聘官视角（Hiring Manager Perspective）**为你做的深度剖析：一、 为什么我看重“长期深度实习”？（6个月以上）在筛选简历和面试时，我对长期实习的候选人往往会有更高的期待值和信任度，原因有三点...

1.自注意力机制是什么？计算复杂度怎么算？2.KV-Cache的如何加速推理？3.LoRA的原理是什么？与P-Tuning、Adapter的异同点？LoRA的参数选择对模型性能有何影响？4.介绍下RLHF的基本流程，与DPO的差异是什么？5.分布式训练中的TP、PP、DP分别是什么？6.flash-attention的原理是什么？7.如果视觉模块误判，如何通过语言纠错？8.具体讲讲怎么构建evaluation pipeline的?代码题：lc23.合并 k 个有序链表

Q1: 请简单介绍一下自己的情况实习经历:百度: 做架构相关和推理优化相关工作，包括模型路由（类似 Gateway）和推理性能优化腾讯云: 反入侵组，主要做了两个项目：门神防火墙的流能力支持规则库运营平台建设Galxe: 链上相关工作，如交易并行化优化开源经历: 参与 Apache Seata、Dubbo Admin、Kiwi 等项目，是 Apache Seata 的 CommitterQ2: 腾讯云的实习已经结束了吗？A: 是的Q3: 百度是在哪里实习？A: 北京。Q4: 你简历上写的路由转发系统能介绍一下吗？A: 这是腾讯云门神防火墙的规则引擎部分。系统架构:流量从 STGW 网关接入经过...