vivo大模型研究员 一面

GRPO（Group Relative Policy Optimization）虽然最初是为强化学习中的reasoning任务（如需要多步决策、逻辑推理的任务）设计的，但其核心思想——通过组内策略的相对比较来优化策略——也可以应用于非reasoning任务（如简单的控制任务、分类任务甚至生成任务）。以下是具体的分析和建议：首先我们看下GRPO的关键创新点是：✅组内相对比较（Group Relative）：将策略分成若干组（group），在组内比较不同策略的表现，而非绝对优化单个策略。✅相对策略梯度：通过组内策略的相对优势（relative advantage）计算梯度，降低方差并提升稳定性。这种思想本质上是一种基于比较的优化方法，与任务是否需要“reasoning”无直接关系，因此可以迁移到非reasoning任务中。🤔那么有哪些非Reasoning任务的适用场景呢？（1）简单控制任务（如机器人控制）问题：传统PPO可能因稀疏奖励或高方差导致训练不稳定。GRPO改进：将不同控制策略分组（例如不同参数化的控制器），在组内比较它们的表现，选择相对更优的策略更新。示例：机械臂抓取任务中，组内可以包含不同的抓取轨迹策略，通过相对优势选择更稳定的策略。（2）生成任务（如文本/图像生成）问题：生成模型的策略优化通常依赖对抗训练（GAN）或最大似然，容易陷入模式崩溃。GRPO改进：将生成器分成多个组（例如不同初始化或架构的子生成器），通过组内生成样本的质量相对比较优化策略。示例：在文本生成中，组内比较不同生成策略的流畅性、多样性等指标。（3）分类/回归任务问题：传统监督学习直接优化损失函数，可能对噪声敏感。GRPO改进：将模型的不同参数化版本（如不同dropout、超参数）分组，通过组内相对性能（如验证集准确率）更新模型。示例：图像分类中，组内比较不同数据增强策略的效果。✴️总结GRPO可以用于非reasoning任务，但需重新设计组的划分方式和相对比较的指标。其核心优势在于通过组内相对优化降低方差，适合奖励稀疏或需要多策略并行的场景。如果任务本身已有高效优化方法（如标准的监督学习），GRPO可能不会带来显著提升。🍊如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

为了帮助更多的学子拿到心仪的offer，进入到梦中情司，特此分享大数据相关的面经，可用于大数据开发、数据仓库、数据分析等岗位，补充：kafka中的事件流事件流是指以事件流的形式从事件源，例如数据库/传感器/移动设备等实时捕获数据的做法，持久存储这些事件流供以后检索，实时和回顾性的操作处理和相应事件流，后续根据事件流流到不同的目标技术中，确保将正确的信息放在正确的位置Tips：事件流处理可以用来干什么？1、实时处理付款和金融交易银行2、实时跟踪和监控汽车卡车和物流行业3、持续捕获和分析来自IoT设备的传感器数据4、持续收集客户互动和订单并实时做出反应5、监测住院护理的患者并预测病情变化，以确保在...

某天吃晚饭突然接到的电话，连打了好几个没接到，后来接到就直接加微信约面了。一面：两个人面，一个HR，一个看起来像主管的大哥。自我介绍深挖简历（无八股）对当前大模型的了解有哪些是否做过数据处理是否有工程化落地的经验或项目为什么本科选了这个专业觉得自己更喜欢什么类型的事情自己的核心竞争力是什么用三个词形容自己反问

一面1、自我介绍2、如何评估 AI聊天产品的好坏?3、你会用哪些指标去衡量AI对话体验?4、目前市面上的AI聊天产品，你觉得谁做得最好?5、为何现在的大模型大部分是Decoder only结构？6、介绍一下如何做竞品调研的，有哪些竞品？7、介绍一下你做过的这两个AI项目在时间规划上分别是怎样的？8、如何搭建AI 评测体系?9、离职原因二面1、自我介绍2、评测集的选择和构造，评测指标的计算评测数据如果和预期不符，你会怎么优化?3、涌现能力是啥原因？4、如何让大模型处理更长的文本？5、llama 输入句子长度理论上可以无限长吗？6、怎么确定选用什么模型以及为什么选择这个模型？7、针对智能客服项目，...