快手LLM大模型实习一面 80min

1.如果想要在某个模型基础上做全参数微调，究竟需要多少显存?2.为什么SFT之后感觉LLM傻了?3.SFT 指令微调数据 如何构建?4.领域模型Continue PreTrain 数据选取?5.领域数据训练后，通用能力往往会有所下降，如何缓解模型遗忘通用能力?6.领域模型Continue PreTrain ，如何 让模型在预训练过程中就学习到更多的知识?7.进行SFT操作的时候，基座模型选用Chat还是Base?8.领域模型微调 指令&数据输入格式 要求?9.领域模型微调 领域评测集 构建?10.领域模型词表扩增是不是有必要的?11.如何训练自己的大模型?12.训练中文大模型有啥经验?13.指令微调的好处?14.预训练和微调哪个阶段注入知识的?15.想让模型学习某个领域或行业的知识，是应该预训练还是应该微调?16.多轮对话任务如何微调模型?17.微调后的模型出现能力劣化，灾难性遗忘是怎么回事?18.微调模型需要多大显存?19.大模型LLM进行SFT操作的时候在学习什么?20.预训练和SFT操作有什么不同21.样本量规模增大，训练出现OOM错22.大模型LLM进行SFT 如何对样本进行优化?23.模型参数迭代实验

1️⃣ 自我介绍2️⃣dpo训练对于系统问答的优化在哪里3️⃣提高模型的准确率核心是什么4️⃣rerank 用的什么模型5️⃣swiGLU 的改进6️⃣全参数微调 7B 需要多少显存7️⃣FP16/BF16 区别8️⃣介绍 gradient checkpoint9️⃣RougeL 计算方法1️⃣0️⃣代码：找数组第 k 大元素

全程拷打项目，重点在于：1.数据如何获取和筛选清洗，数据格式，输入输出，MCP的具体使用2.为什么选择Qwen3，某些sft是否必要3.多Agent如何实现协作，Langraph的特性和操作4.问了一点强化学习相关，还不是很熟悉没答太上来5.模型效果如何评测，数据集，评价指标6.Temperature为0时理论上应该可以复现模型输出，但实际上工程实现中并不能完整复现一模一样的输出，问为什么，如何解决？7.如果想要截断某个Agent的输出或者调用的大模型的输出，只保留最相关的部分，如何用代码实现8. 代码：一道hot100原题，排序数组查找第一个和最后一个，秒了

1.项目介绍2.训练样本大概多少条3.为什么会想在重排做生成式4.如果是做生成式召回应该对模型结构怎么修改5.有考虑用别的强化学习的方法吗6.dpo 的公式是什么7. grpo 了解吗8.beamsearch 怎么做的9.大模型了解多少，强化学习了解什么10.手撕 transformer 并计算 flops 和内存开销