百度-NLP算法-日常实习面经

论文题目：Weak-Driven Learning: How Weak Agents make Strong Agents Stronger论文地址：https://arxiv.org/pdf/2602.08222论文详解：https://mp.weixin.qq.com/s/alpue3q1Gk5fcmpG_p3y3Q核心要点：该论文的核心思想是弱驱动学习（Weak-Driven Learning）把历史“弱模型”的纠正信号用于训练当前强模型，通过课程式数据激活与Logit混合联合训练，在不增加推理成本的前提下显著提升数学推理与代码生成表现。关键结论1、提出新范式： 引入了“弱驱动学习”（Weak-Driven Learning），颠覆了以往必须由强到弱传递知识的定式思维，证明了历史的弱模型同样是宝贵的优化信号源。2、设计新框架： 提出了一个名为WMSS的实用三阶段训练框架，通过课程增强的数据激活和弱强联合训练，将弱驱动学习的思想落地。3、验证有效性： 在多个数学推理和代码生成任务上，WMSS均显著超越了传统的SFT等基线方法，并且这一切是在不增加任何额外推理成本的前提下实现的。

攒人品中，祝大家都能拿到满意的Offer！1.论文拷打2.为什么使用跨模态对齐而不用多模态大模型？3.项目为什么不用参数量更大的模型？4.模型困惑度是什么，怎么计算？5.项目数据如何获取，数据比例怎么确定？6.怎么训练奖励模型，为什么要自己训？7.如果针对业务从头进行大模型后训练，如何构造高质量CoT？

攒攒人品！有面试过同岗的朋友欢迎评论区交流1.lora微调原理2.prompt 微调3.P tuning4.强化学习 ppo grpo5.Deepseek r1 训练四个阶段6.Encoder only decoder only 区别7.BERT的结构

继续来分享下之前的面经~欢迎友好讨论，信息共享1.论文拷打2.模型困惑度3.项目使用了哪些评估指标？4.项目的DPO数据如何构造，为什么？5.项目中的Reward模型怎么训练的，为什么自己训？6.GRPO过程中遇到过什么问题，怎么解决的？7.介绍DPO，PPO，GRPO过程和区别8.GRPO中奖励值可以怎么得到，有哪些方法？9.手撕MHA