广立微 大模型算法一面

1.项目介绍2.讲一下在百度实习期间做的主要工作。3.压缩专家机制是如何实现的？4.用的训练数据集规模分别是多少？5.为什么选择用SFT训练，而不是用RL训练？6.介绍一下 DPO, PPO, GRPO的原理和区别7.PPO的损失是token级别还是sequence级别的？8.PPO中的Critic模型是如何计算优势的？9.讲一下LoRA微调技术原理10.LoRA微调是如何减少训练参数的？11.LoRA技术有哪些优势？12.算法题手撕 三数之和（撕出来了

1. 项目继续深挖依然是实习项目，可能会延伸到方案对比、难点、优化空间等。2. 大模型应用与方法1.对一份数据做分类/识别/检测，用大模型有哪些方法？2.如何评估AIGC生成的文本？3.大模型“幻觉”如何缓解？真实性如何评估？4.RAG过程中索引可以做哪些优化？3. 模型训练与优化1.KL散度表示什么？2.反思机制是怎么做的？为什么用反思？3.PPO中KL散度的作用？4. 手撕代码实现KMeans实现一个简单的MLP，从CSV读取数据

1.请介绍 Transformer 的结构组成及各部分作用2.如何降低 Transformer 的计算复杂度？常见的稀疏注意力变体有哪些？3.LoRA微调的原理是什么？秩 r 的选择会对模型表现产生什么影响？4.kv cache是什么？为什么能极大地提升推理速度？5.RAG的完整流程，构建向量检索库时如何处理时间衰减对召回的影响？6.微调时的训练数据是怎么构建的？如何保证样本多样性和质量？7.在 RAG+知识图谱的 Agent 系统中，知识图谱更新的机制是怎样的？是怎样保证实时性的？8.训练 LoRA 模型时，你是如何选择冻结层的？依据是什么？9.在高并发查询 Agent 系统中，你会如何优化召回和生成阶段的延迟？10.大规模 Agent 系统在多线程/多进程场景下的资源调度策略如何设计？11.如果你要在 GPU 资源有限的条件下同时提供推理和微调服务，如何做资源分配和任务调度以保证时延和吞吐？12.代码：lc15 三数之和

1.八股：一个7B参数的大语言模型，在训练和推理时分别需要多少显存？影响显存占用的关键因素有哪些？2.八股：SFT 阶段，7B 和 70B 模型的学习率设置通常有何不同？背后的原理是什么？3.项目：DPO 训练过程中，你会重点关注哪些评估指标？为什么？4.项目：训练一个基于 pair 对的 reward 模型，loss 函数怎么写？如果是非 pair 形式（只标注最优 response），loss 又该如何设计？5.项目：DPO数据构造中常出现正负样本不均衡问题，你有哪些解决方案？6.项目：用DPO缓解幻觉时，如果反而引入了新的幻觉，可能是什么原因？7.项目：DPO中的beta参数代表什么？过大或过小会带来什么影响？8.项目：你在微调时是否观察过不同层的梯度差异？9.项目：不同参数高效微调方法（如 LoRA vs Adapter）在你的任务上效果对比如何？