京东广告算法一面

1️⃣ 实习介绍2️⃣ 拷打 rag 项目：1.项目还可以提升的地方2.感觉自己可以多久完成这个项目3.dpo训练对于系统问答的优化在哪里4.提高模型的准确率核心是什么5.怎么提高数据的质量6.rag 文档怎么切分7.rag 向量化的模型8.rerank 用的什么模型9.有没有微调 rerank 模型/应该怎么微调10.dpo 用的什么库11.代码：已知无序数组，求第 k 大数

1.过实习和论文2.之前实习用 DeepSpeed 微调过 Qwen2-72B，于是面试官问了 ZeRO-1，ZeRO-2，ZeRO-3 三个模式的区别3.当时你用 DeepSpeed ZeRO-3 来微调 Qwen2-72B，每一张卡占用的显存大概是多少，估算一下为什么是占这么多的显存4.除了 DeepSpeed，还用过其他的什么优化方法吗5.我看你也用到了 LORA，知道 LORA 的原理吗，A和 B两个矩阵怎么初始化，有了解过其他的初始化方法吗6.对 RLHF 了解的多吗7.代码:3.无重复字符的最长子串

1️⃣ 自我介绍2️⃣dpo训练对于系统问答的优化在哪里3️⃣提高模型的准确率核心是什么4️⃣rerank 用的什么模型5️⃣swiGLU 的改进6️⃣全参数微调 7B 需要多少显存7️⃣FP16/BF16 区别8️⃣介绍 gradient checkpoint9️⃣RougeL 计算方法1️⃣0️⃣代码：找数组第 k 大元素

1.问硬件、硬件利用率2.讲讲deepspeed几个阶段，分别分片什么、代价是什么3.模型训练时间如何估计4.DP和DDP的区别5.最多用过多少张卡6.训练过程如何做模型监控7.数据配比怎么量化才是一个好的方案8.讲一下预训练数据处理9.预训练和SFT如何评估10.encoder-decoder、encoder、decoder区别11.讲一下文本输入大模型到输出的过程12.decoding策略13.大模型结构有哪些变化14.拷打论文15.手撕:cross-attention