吴师兄大模型训练营 14周完整版

1.北京央企中国路桥数字化管理岗，总包25w，给北京户口，和我说的是不用出国，我也不想出国，不知道是不是真的不用出国，很害怕...2.上海某金融中小厂，大模型方向，总包35w，公积金7%➕2%补充

时长：1h 面试：1. 自我介绍，介绍简历里面没有的东西2. 本科期间的经历，包括实习和科研3. 聊同花顺软件使用4. 一些个人情况5. offer到岗时间6. 介绍公司周围情况

1.请介绍 Transformer 的结构组成及各部分作用2.如何降低 Transformer 的计算复杂度？常见的稀疏注意力变体有哪些？3.LoRA微调的原理是什么？秩 r 的选择会对模型表现产生什么影响？4.kv cache是什么？为什么能极大地提升推理速度？5.RAG的完整流程，构建向量检索库时如何处理时间衰减对召回的影响？6.微调时的训练数据是怎么构建的？如何保证样本多样性和质量？7.在 RAG+知识图谱的 Agent 系统中，知识图谱更新的机制是怎样的？是怎样保证实时性的？8.训练 LoRA 模型时，你是如何选择冻结层的？依据是什么？9.在高并发查询 Agent 系统中，你会如何优化召回和生成阶段的延迟？10.大规模 Agent 系统在多线程/多进程场景下的资源调度策略如何设计？11.如果你要在 GPU 资源有限的条件下同时提供推理和微调服务，如何做资源分配和任务调度以保证时延和吞吐？12.代码：lc15 三数之和

1.实习介绍2.展开讲一下在百度实习的工作3.实习工作具体是如何做的？4.具体探索过程是怎样的？5.想法是如何逐步优化的？6.介绍一下你了解的其他基于 MoE 的模型架构7.如果基于 MoE 的模型在训练时负载均衡不好怎么办？8.讲一下负载均衡的概念9.如何解决负载均衡问题？10.讲一下 DPO、PPO、GRPO 的区别11.如果在训练 DPO 的过程中，正例和负例的 loss 都在下降，该如何解决？12.讲一下 RAG 项目的亮点13.如果召回的答案不是想要的，该怎么处理？14.算法题：求根节点到叶节点数字之和（LeetCode 129，非 Hot100）