猿辅导 大模型推理引擎开发实习生 - 一二面 （oc）

论文题目：Prolonged Reasoning Is Not All You Need: Certainty-Based Adaptive Routing for Efficient LLM/MLLM Reasoning论文地址：https://arxiv.org/pdf/2505.15154论文详解：https://mp.weixin.qq.com/s/_Rhj8TQFgRFka9xj3xwBpQ核心贡献1、提出了一个基于模型置信度动态切换短答案和长形式推理的 CAR 新框架，实现了准确性和计算效率之间的最佳平衡。2、通过广泛的初步研究，验证了困惑度（PPL）可以作为模型置信度的可靠指标，并通过高斯建模建立了其与答案正确性的关系。3、在 LLM 和 MLLM 上进行的广泛实验表明，CAR 在保持推理准确性的同时，显著减少了推理标记的使用，优于短答案和长形式推理方法。4、CAR 超越了以前的推理标记减少方法。例如，使用 Qwen2.5 时，CAR 在整体准确率上提高了 6.9%，同时减少了 21.4% 的标记消耗。使用 Llama3.1 时，它实现了 5.5% 的准确率提升和 39.0% 的标记使用减少。实现方法1、使用包含短答案和长形式推理答案注释的示例进行训练，通过标准指令调整过程优化交叉熵损失。2、在训练数据集的所有示例上进行短答案推理，计算每个短答案的 PPL 值。 3、假设正确和错误短答案的 PPL 分布遵循高斯分布，通过训练数据估计这些分布的参数。4、对于新的输入示例，首先生成短答案并计算其 PPL 值，然后根据 PPL 值在正确和错误分布下的概率进行决策。如果短答案被认为是正确的，则直接输出；否则，模型将执行长形式推理以获得更准确的答案。

5.23 投递简历，随后发测评6.3 hr电话约一面6.4 一面。主要介绍了论文和项目，深挖了第二篇论文和项目，中间夹杂着考了一些八股（介绍metrics、介绍最熟悉的一种GNN等）。问对推荐系统有没有了解（回答不了解，鼠鼠是做图的呜呜呜）。然后面试官介绍了一下召回和排序，说召回目前也有图的场景。然后问了一道场景题，大致意思是排序需要很快的得到结果，如果用图有没有什么思路。最后手撕打家劫舍和打家劫舍2，秒了。一面面试官巨好，不得不感叹快手的面试真的做的好好，鼠鼠很菜但是至少不紧张。半小时后hr电话约了第二天二面。6.5 二面。这个面试官看着有点不苟言笑的样子，当时就开始紧张了。主要深挖了第一篇...

 什么是MOE（混合专家模型）？其核心设计思想是什么？   DeepSeek MOE是哪家公司的产品？其架构设计有哪些特色？   门控网络（Gating Network）的作用是什么？ 如何解决MOE中专家负载不均衡问题？   在分布式训练中，MOE如何实现专家参数的高效更新？   DeepSeek MOE如何优化长序列场景下的推理效率？   如何评估MOE模型的稀疏性效率？请列举至少2个指标。   若设计多模态MOE模型，门控网络应如何融合图像/文本特征？   若MOE推理时出现“专家选择震荡”，如何解决？

手里的两个意向公司：快手 部门：具体名称未知，专门做AI infra的组 工作内容：LLM 推理优化公司：蚂蚁 部门： 应该是平台事业群（中台？） 工作内容： LLM 推理优化base 均为北京，都是暑期个人感觉基本背书差不多，快手可能技术略好？但是快手强度比较大