1.项目介绍2.用的什么模型?介绍一下?3.了解其他的多模态大模型吗?介绍一下?4.介绍-下transformer的结构?5.介绍-下multihead-attention?6. multihead-attention为什么要切分?为什么要做成多头的?7.你觉得多头注意力能提高计算效率吗?结合公式推导一下?(矩阵计算)8.不能提高计算效率，详细讲讲为什么?9.multihead-attention现在有一些优化，现在主流的优化都有哪些方向，每个方向下有什么优化方法?10.为什么你们用xx模型?算力多少?数据量多少?11.介绍-下deepspeed的关键配置参数，及其含义?12.介绍一下vm的训练阶段有哪些?训练阶段的任务是什么?13.你提到了正负样本不均衡，你觉得正负样本不平衡对模型性能有什么影响吗?有什么方法缓解?14.acc、precision、f1-score指标概念，样本不均衡对指标的影响?

一面 1.项目介绍2.讲讲你对 transformer 的了解3.有哪些常用的解码策略，topp 和 topk 的具体细节，以及实现上的差别4.意图分流的 agent 怎么做微调的，用了多少数据5.如何做 embedding 微调的，如何构造正负样例，训练的 loss 是什么6.RAG有哪些可优化的地方7. 你的 RAG 项目中用到了 agent 吗，一般 agent 会用在RAG 链路中的哪些部分8.做 sft 时是怎么做数据配比的，参数具体怎么设置的9.RLHF的流程，有没有训过 PPO10.deepseed 的原理，zero1,2,3怎么做的11.了解过排序模型吗，讲几个经典的排序模型吧12.说-下 vm 部署8*7B的 MOE 模型每秒大概能推多少token13.对比学习了解吗，讲一下14.代码题:实现rand5到rand7

时长：40分钟无手撕面试：1. 询问实习项目2. 询问强化学习的问题，比如DAPO，DQN等3. 贝尔曼期望方程怎么写（完全忘了，呜呜）4. 问业务，对于大模型在伙牌上面的诊断有什么想法，用什么样的方式去训练反问：1. 目前探索得怎么样了2. 实习生主要工作内容

一面 : 1.项目介绍2.简历拷打3.双塔可以用于哪些环节?你觉得目前对双塔模型的研究还存在哪些问题?4.手推-下MSE的梯度回传?为什么01分类问题不能用MSE?5.长序列建模除了sim还了解哪些?6.场景迁移学习的思路有哪些?7.实习项目的收益点主要来自哪里?后续怎么继续迭代?8. 代码: 分发糖果9.代码:买卖股票的最佳时机二面1.项目拷打2.讲一下你对rankmixer的理解?3.对lm4rec的后续迭代方向有什么见解?4.讲一下最近很火的onerec?你认为onerec对你工作最大的启发是啥?5.attention为什么要除以根号dk?6.如果你这个项目资源足够的话，有没有考虑过直接端到端训练?7.代码:手撕多头注意力机制

1.简历实习项目2.有没有试过外挂数据库来解决线上业务数据分布更新较快的问题3.模型选型问题，为什么选qwen3-8b，如何估算模型开销。4.最多做过几卡的模型训练?对deepspeed和Megatron有多少了解?5.推理加速的方法。(vlm的page-attention, kv cacheprefix cachemla, flash-attention等6.场景题:忽略7.代码题:k个一组反转链表

一面 1.介绍项目实习经历。2.引入大模型的原因，大模型解决了什么问题,3.大模型sft解决不了业务问题吗?为什么还要引入强化学习。强化学习主要解决业务中的什么问题4.讲一下PPO和GRPO的原理和区别5.如何理解强化学习中熵的概念，如何保证训练过程中熵保持在较高的水平，6.强化学习中调参的经验7. 强化学习中on policy和off policy有什么区别?grpo是on policy的吗?如何实习真正的on policy强化学习。8.多模态大模型的训练过程有什么不同?9.多模态大模型的vision encoder一般使用vit的第几层输出?10.mlp和Q-former两个模态融合模块的优劣?11.代码题:手撕二叉树层序遍历

一面 1.介绍实习项目2.优化器相关，介绍-下adam，adamW，相较SGD有什么改进3.残差网络的作用是什么，什么叫做网络退化4.什么叫过拟合，过拟合的解决方案，在损失函数上过拟合是怎么体现的5.Dropout的原理，预测的时候有没有什么补偿策略6.lora的原理，如何初始化A，B矩阵，为什么7.主流的位置编码，旋转位置编码的原理8.了解强化学习吗9.代码题:leetcode 33 搜索旋转排序数组二面1. Transformer的FFN层能不能去掉，为什么?2.FFN为什么是d-->4d?3.attention中为什么要除以根号dk4.SDXL和FLUX的区别5.ControlNet对哪种控制条件效果更好，风格控制采用哪种方式6.为什么分类损失不用KL散度而用交叉熵，二者区别是什么7.代码题:rand7实现rand10

1.agent的部署流程2.大模型项目遇到了什么问题3.怎么加强大模型记忆机制4.上下文接口怎么修改5.较长较多的上下文怎么解决6.多模态的用户信息怎么存储和使用7. 对多模态大模型有什么了解8.多模态大模型的具体结构9.有没有从0训练大模型的经历10.qwen系列模型的结构和特点11.qwen进行了几代，每一代有什么重要突破12.大模型微调的机制13.lora的具体原理14.lora中特殊的超参数有哪些，分别有什么意义，会对模型有什么影响15.lora效果不好怎么办16.lora的缺点，改进方向17.agent和workflow的区别，为什么需要agent觉得当前的agent达到预期18.对agent的预期是什么，"了吗19.agent的改进方向是什么20.你认为从大模型端要做什么来适配agent

一面 1.实习项目交流2.transformer计算的时间复杂度和空间复杂度，deepseek对transformer主要做了哪些改进?3.为什么要在推荐系统中引入rqvae?4.如何解决坍缩问题?5.对rankmixer了解吗?介绍一下?6.详细介绍一下Moe?优缺点各自是啥?7.训练模型如果loss不稳定，如何解决?8.了解lora 吗?介绍下lora原理9.代码:手撕mha二面1.项目介绍2.bert的预训练任务是什么?3.bn和In的区别?在什么场景使用?4.如果qk变成同一个矩阵会有影响吗?如果一定要变成同一个矩阵，如何解决影响?5.介绍一下帕累托?6.如何挑选特征?7.你对推荐算法中特征工程的心得有哪些?8.代码:实现交叉熵损失

二面 1.自我介绍，问实习和论文2.实习微调过Qwen2，你说说Qwen2的模型结构吧Qwen2相比Qwen1做了哪些改进3.为什么现在 Decoder-only 成为大模型的主流架构，相比于 Encoder-Decoder的架构好在哪里4.讲-下 ROPE ，目目前常用的位置编码还有哪些，ROPE 有什么优点5.为什么有了 SFT 之后还需要 RLHF6.PPO和 DPO 的主要思想是什么，DPO 相比 PPO的 RLHF 做了哪些改进，除此之外还知道哪些 RL算法7. 代码:23.合并K个升序链表

1️⃣一面 1. 自我介绍（开始吟唱）2. attention计算公式3. 项目拷打，特征怎么做的，为什么选这个模型4.多目标学习建模方法5. 共享专家和独享专家的个数分别是多少6. 讲一下transformer的encoder和decoder8. 手撕：N皇后2️⃣二面1. 自我介绍2. itemcf公式，itemcf改进的公式了解吗3.项目拷打，问的比较仔细，模型的参数，数据量等4. MMOE的缺点？PLE的改进点在哪？transformer中用softmax有什么问题呢？该怎么解决6. 场景题：Alice和Bob选数字，偶数A得分，奇数B得分7. 手撕：最长递增子序列的改版8.反问📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

电话10分钟1. 什么时候能来2. 实习多久3. 介绍岗位和薪资4. 确定给通知时间

一面 以拷打实习为主，穿插八股算法题 力扣easy二面考了很多偏数理的基础比如考到逻辑回归要做具体推导大模型只是摸了一下考了些场景题算法题 力扣medium三面偏聊天业务理解和开放式场景题没考算法题想问问各位在MPT的大佬这个部门工作环境怎么样，上下班时间我听说是10-9-5？绩效是怎么算的啊 试用转正难不难😭

1.Lora 的相关八股:常见参数、缩放2.有没有做记忆衰退，避免旧数据干扰新任务？3.Deepspeed zero3为什么比zero2更省显存4.训练大模型的框架都有哪些呢5.讲解一下 Flash Attention6.讲解一下 Qwen 的滑动窗口注意力机制，计算量是多少？7.PPO 的损失函数构成。8.讲解一下KL散度。PPO和GRPO的损失函数有哪些区别？9．在高并发查询 Agent 系统中，你会如何优化召回和生成阶段的延迟？10．32B 模型全量微调 和Lora 微调的显存估算11．你们这种模块堆叠的架构是怎么设计视觉问答模块和动作模块的协同逻辑的？12. human feedback 是怎么被 agent 消化吸收的？📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

时长： 1h手撕：Multi head attention面试：1. 自我介绍2. 仔细询问项目，主要是关于大模型3. 问项目是自己的idea还是借鉴的别人的进行复现4. 强化学习中，reward hacking怎么办（改进奖励函数）5. 项目中强化学习训了多少轮

岗位：算法优化工程师。浙江滨江区，大小周，有固定加班。电话面试，所以也没问什么，自我介绍都不用，询问主要用到语言是什么，然后就是八股。1. 线程和进程的区别（1）资源隔离：进程有独立的地址空间和系统资源；线程共享所属进程资源（如内存、文件描述符），仅拥有独立的栈和寄存器。（2）创建与切换开销：创建进程、销毁和上下文切换开销大；线程开销小（3）通信方式：进程间通信需要通过IPC机制（如管道、共享内存）；线程可以直接读写共享内存、但需要同步（互斥锁）（4）健壮性：一个进程崩溃不会影响其他进程；一个线程崩溃可能导致整个进程终止（5）并发粒度：进程是粗粒度并发，适合强隔离场景；线程是细粒度并发，适合高...

标准的KPI面试，面试官随便问了几个简历上很浅的问题就结束了八股文：DPO、PPO、GRPO的优劣势手撕：反转链表（ACM模式，自己写示例）反问：部门具体业务.....(当他主动跟我说不是他招实习生，是隔壁部门招实习生，他临时被喊过来的时候，我就知道gg又是浪费时间的一天）

时长：1h 面试：1. 主要是对项目进行仔细的询问2. 手撕手撕：给你两个单词 word1 和 word2， 请返回将 word1 转换成 word2 所使用的最少操作数你可以对一个单词进行如下三种操作：插入一个字符删除一个字符替换一个字符反问：1. 工作的具体内容2. 实习生主要做什么

1. 介绍上一段实习项目2. 收益是由什么带来的，出价提升是否会导致ROI降低3. loss是list-wise还是point-wise（单点预估的话，是不是模板里面广告位多的list loss更大） c. 如何进行校准4. 了解过哪些推荐网络结构5. 介绍youtubeDNN结构6. 介绍熟悉的loss function7. batch normalization和layer normalization的区别8. batch normalization训练和推理阶段的不同9. 有没有了解过多目标多场景任务10. 算法题：寻找最大连通色块，m行n列的矩阵，每一个元素代表一种颜色，寻找颜色相同的最大连通色块所对应的颜色