快手多模态大模型算法实习一面

flash attention解释下gqa解释下怎么才能训练好一个sft过程？sft的loss计算是用什么计算的？lora原理lora参数权重初始化lora的r和缩放参数dpo的lossdpo数据集怎么构造比较好？如果dpo训练过程中，accept回答和reject回答的loss都在升高，怎么办？假如说dpo效果不好，怎么解决？多轮对话一般要怎么训练？rag的流程？检索时，只用关键字匹配会存在问题，怎么具体解决？（没有上下文语义信息）给定一个网页，如何提取其中的关键信息

1.八股：一个7B参数的大语言模型，在训练和推理时分别需要多少显存？影响显存占用的关键因素有哪些？2.八股：SFT 阶段，7B 和 70B 模型的学习率设置通常有何不同？背后的原理是什么？3.项目：DPO 训练过程中，你会重点关注哪些评估指标？为什么？4.项目：训练一个基于 pair 对的 reward 模型，loss 函数怎么写？如果是非 pair 形式（只标注最优 response），loss 又该如何设计？5.项目：DPO数据构造中常出现正负样本不均衡问题，你有哪些解决方案？6.项目：用DPO缓解幻觉时，如果反而引入了新的幻觉，可能是什么原因？7.项目：DPO中的beta参数代表什么？过大或过小会带来什么影响？8.项目：你在微调时是否观察过不同层的梯度差异？9.项目：不同参数高效微调方法（如 LoRA vs Adapter）在你的任务上效果对比如何？

我们是阿里云Serverless应用团队，国内唯一连续两年获评Forrester FaaS全球领导者象限的厂商，产品力全球第一。团队负责函数计算、Serverless应用引擎、智能体AgentRun、模型服务 FunModel、图像生成 FunArt等核心产品，支撑百万QPS高德出行等头部客户及无数中小企业。我们相信在新的 AI 时代，Serverless 和 AI 能力的结合，是 AI 应用落地千行百业的关键。我们正致力于构建从底层技术设施到上层应用管理的每一层技术栈，更好的支持 AI 应用，包括让 GPU 算力利用率更高，更加弹性；让大语言模型应用更简单的与现实世界互动等等。团队正在寻找充...

一整年就是飞飞飞，甚至一天飞两趟好不容易挣点钱全花机票上了明年秋招会善待我么