百度-AI异构计算-二面面经

1.项目介绍，问实习和论文2.大模型的超长上下文问题怎么解决预训练和 SFT 的损失一样吗3.RL 中 Reward 和优势有什么区别4. LoRA 训练和全参训练的优劣5.了解哪些常用的 RL 算法6.最新的 GSPO 重要性采样7.讲一下 DeepSeek R1，推理模型怎样训练8.GRPO 比 PPO 强在哪9.对 DAPO 和 VAPO 有了解吗10.代码：接雨水

求职新手做简历有一个通病：简历都写得很满，技术栈堆了一大堆（Java/Go/Python/Docker/c++全写上），项目也写了两三个，但面试邀请率低的可怜。为什么？因为你的简历是一篇流水账，而不是一份战绩表。普通的简历只能证明“你会用这个工具”，而有深度的简历能证明“你有解决问题的脑子”。在面试官眼里，有深度的简历和小白简历的区别，就在于能不能回答这几个问题：难在哪里？ (Technical Complexity)你是怎么解决的？ (Problem Solving)结果提升了多少？ (Quantifiable Impact)后续还可以怎么优化？ (Plan/Evolution)内容有了，那...

1️⃣实习介绍2️⃣基本就是顺着简历全在问八股1.Transformer 的结构，有哪些可以学习的参数2.多头自注意力结构，矩阵个数3.ffn结构4.encoded decoder 区别5.一个 decoder block 由几个部分组成6.encoder 的输出，作为什么到 decoder7.为什么 decoder 更适合生成8.decided mask 在推理中有用吗9.Transformers 各个架构的改进（attention/ffn/位置编码）分为：10.GQA MHA MQA 区别11.swiGLU 的改进12.rope 在哪里加入3️⃣然后开始项目，其实也问很多八股：1.用的什么开源 dpo 数据2.为什么没用 qwen-33.全参数微调 7B 需要多少显存4.FP16/BF16 区别5.AdamW 显存计算6.介绍 Flash attention7.介绍 gradient checkpoint8.RougeL 计算方法9.代码：找数组第 k 大元素

1.PPO、GRPO、DPO 的损失函数2.给你看 DPO的公式，从数学关系上推一下刚开始的 loss 是多少-这里是In23.这里为什么使用 RL，而不是用 RAG去幻觉-RAG 针对于知识缺失去幻觉，RL针对的是行为推理层面去幻觉4.奖励函数是如何设计的5.如果一个句子中确定性的词汇比较多，这样导致会不会导致整体句子的熵比较低，如何解决6.GNN里边你觉得最重要的知识点是什么7.手撕:合并 K个升序链表