1.平时接触过哪些深度学习模型?有用过推荐相关的模型吗?2.ESSM中CVR任务的样本空间是什么?3.Weight decay解释一下原理?4.对于优化器有哪些了解，比如Adam，AdamWSGD等是否知道梯度更新的计算过程?5.HSTU中注意力计算过程和Transformer的注意力计算过程的区别6.HSTU中的工程优化了解吗?有了解其他生成式模型吗?7.注意力计算中主要是矩阵计算比如QK，是线性变换，有非线性变换的过程吗?8.SiLU激活函数和ReLU激活函数的区别?9.为什么使用InfoNCE loss，和NCE loss，Samplesoftmax loss 有什么差异10.RQ-VAE的损失函数计算中，梯度阻断是怎么做的?11.除了RQ-VAE 还了解其他的VAE模型吗?12.NDCG指标的计算过程是?NDCG指标中Normalize的过程体现在哪里?

1、你项目中transformer的loss是什么?2、方案二项目中transformer实现召回的原理是什么?输入输出loss都是什么?3、UCF、ICF的原理是什么讲一下4、ICF有什么缺点?实际使用的时候有什么不足5、如果有一个非常喜欢点击的用户，另一个是非常不喜欢点击的用户，哪个用户根据icf的推荐是更准确的?6、transformer的attention 公式7、多分类交叉熵和二分类交叉熵公式8、线性回归的损失函数无手撕

面试了一个半小时，拷打的很细，还问了一堆八股，汗流浃背1.简历拷打2.介绍一下xgboost和lgb的区别？并行化的差异？lgb的有点在哪里？3.你还了解那些bagging算法？和boosting stacking有啥区别？4.ppo公式写一下5.transformer中的decoder介绍一下，作用是啥。6.代码手撕一个两层的神经网络，要求自己求梯度反问

发一下问题给大家参考，攒攒人品！！！1.项目是基于自己的兴趣，还是follow现成项目2.这个项目是主要是为了解决什么问题3.训练是基于 torch 写的，还是用现有的框架4.保存加载checkpoint怎么实现的5.项目怎么做到能跑起来？遇到什么困难？怎么解决？6.Qwen tokenizer 中并没有图像相关的 token，那么在构建多模态输入时，应该如何在文本序列中表示图像位置8.占位 token 在经过 tokenizer 和embedding 后，模型是否能够稳定地识别它的存在？它在 embedding 空间中是否具有明确的语义位置，还是只是一个噪声 token9.你用什么指标测模型10.Deepspeed11.zero12312.Zero3 是模型并行吗13.8 卡环境下使用 ZeRO-3 训练时，数据并行度是多少14.Megatron15.8 卡环境下使用Megatron训练时，数据并行度是多少16.训过PPO吗17.PPO 的reward model是怎么训的18.PPO 再往底层学了吗？讲一下蒙特卡洛和 TD error 的区别19.为什么他们是两个极端20.PPO 加载了哪几个模型？哪些模型是freeze，哪些是激活的？以及它每个模型做了什么21.你的PPO 的 critic model 是怎么初始化的22.LLM场景下，传统强化学习中的核心概念（Actor、Environment、State、Action、Reward、Value）分别对应什么23.R和V的关系？Value 函数在估计什么量24.DPO和PPO的关系25.DPO加载几个模型26.DPO的推导27.重要性采样两个pi的比值落实到代码层面是什么计算的28.LLaVA-one-vision、LLaVA-NeXT29.llava怎么实现动态分辨率的30.qwenvl系列是如何实现动态分辨率的31.了解qwenvl系列吗32.qwenvl在旋转位置编码上的改进33.场景题：在视频多模态模型（如 Qwen-3B / Qwen-Omni）中，模型存在 video grounding 不准确和“幻觉定位”的问题。如何系统性地设计数据、训练策略、评估与约束机制，来有效提升模型的事件定位准确性34.根号dk的作用35.手撕self-attention

发点面经攒点人品，有面过同岗位的佬欢迎评论区交流1实习拷打2预测值x一个权重，auc是否改变3 recall@k具体计算流程4搜索场景din如何加入query特征5 inbatch为何是softmax而不是其他loss，是否用NCE6 延迟归因的训练样本怎么办7手撕题:n个骰子，把n个骰子投掷1次把所有骰子面朝上的点数求和记作s，给出s的概率分布。比如n为1，输出六个1/6

项目一 1.基线模型是什么2.候选集多大3.输入特征有哪些4.模型输出是什么，label是线上真实曝光吗5.用户反馈的辅助loss具体是怎么做的6.最终收益怎么样，一般线上看什么指标，这个收益算大还是小项目二1.详细介绍项目二，输入特征是什么2.和参考的模型对比，你们这个模型的不同之处在哪3.具体讲一下残差量化的过程，码本设置多大，一共多少层，码本向量维度多大，码本是共享的还是独立的4.最终是怎么由sid检索item的5.生成模型训不好你觉得是是哪些方面导致的6.有采取渐进式训练吗7.残差量化过程中间有loss吗，是什么形式八股1.精排模型一般用什么指标评估，auc的物理含义2.二分类问题用什么损失，为什么是用交叉熵而不是用mse，交叉熵的公式是怎么推导出来的3.讲一讲Adam优化器，自适应学习率是怎么做的，具体公式是什么4.deepseek提出的SMOE的均衡负载是怎么实现的，具体公式是什么样的手撕1.最小变换次数2.n由/2或者±1变回1的最小变换次数如何优化

感觉一直在被打断...1.数据蒸馏是什么？有哪些 trick？2.system_prompt 作用是什么？3.讲一下 grpo4.多模态 grpo 有什么 trick？5.推理路径如何显示输出，模型不遵循指令怎么处理？6.温度的公式和作用，实际中你怎么用的7.手撕：非递减的数组找出给定 k 的最左和最右索引

code: 数组中的第K个最大元素，要求O(n)时间，O(1)空间1.介绍实习的工作经历2.我看你做了很多工作，有没有做过消融，各自的指标提升有多大？3.在线推理的打标和时延分别是多少？4.你的GAUC是如何计算的 ？手撕一下，我给你输入输出5.知不知道前几级的召回和粗排怎么做的？讲一下细节6.会处理大数据吧，给你两张表，写一个Spark sql我要关联这两个序列特征，code一下伪代码7.讲一下你对于spark的RDD的理解8.讲一下快手的generator-evaluator框架。解码方式？似然序列的损失函数？9.最后code

面的我口干舌燥，差不多75min项目：1.微调和强化学习想让模型学习到什么？2.RAG如何进行构建的？3.为什么选择微调8B的模型？为啥不用更小更大的模型？4.为什么用DPO强化学习？5.微调显存占用是多少？6.微调占用的显存主要储存什么参数？7.推理和训练的显存占用一样么？8.如果不一样的话比例是多少？9.为什么会有这样的比例？是什么原因导致的？10.微调的LoRA参数是多少，为什么要这么设置？八股：1.讲讲DPO,GRPO,PPO的区别？2.除了SFT,LoRA还知道哪些微调模型？3.NF量化是什么？4.量化有什么作用？5.4-bit,8-bit,16-bit是什么意思？6.训练和推理的时候用float量化还是int量化好？具体怎么体现的？7.关于RAG还知道哪些检索方法和召回的方法？8.FAISS库是干啥的？9.FAISS主要储存什么？怎么使用的？10.Mamba模型的架构（论文）11.相比于linear attention，self attention有什么优势？12.多模态有哪些模型？13.CLIP模型的架构？13.知道哪些市面上关于LLM和搜广推的结合的解决方案？14.在处理长文本的时候，你有什么解决方法？15.LoRA，QLoRA，Adapter LoRA的区别？16.了解扩散模型么？手撕：最长连续系列

1.项目拷打2.你使用了哪些模型，分别是什么规模的3.你实习的第二家公司（科研），是一家什么样的公司，业务是做什么的4.是否有独立做过工程实现？5.Python 工程相关经验？6.SQL能力怎么样，写过的最复杂语句是什么7.毕设方向与思路？8.从零做“通用对话式数据分析 Agent”，你会怎么规划？9.我看你的过往经历基本都是算法，我们这边更偏工程，你是否可以接受10.  你认为你来做agent开发，优势是什么？

1.项目拷打为主2.项目中的数据相关，数据是怎么来的3.人工标注数据，具体是怎么做的4.项目中遇到不符合正常流程的情况，有什么处理机制5.讲讲你对思维链的理解6.思维链用在你这个项目里有什么好处7.大模型生成图片的时候，生成的图片不符合描述的输入怎么办？8.AIGC可控性相对较差，你是如何解决这个问题的？9.你做的Agent，详细描述plan模块相关10.你认为plan的难点在哪11.讲讲你对Agent的理解12.你认为要把一件事情做好，Agent应该怎么拆分13.Agent拆分的环节数量，对于最终的交付质量有什么关系14.介绍研究生课题相关15.无手撕

1.Python 工程相关（异步/多线程/多进程）经验？2.SQL能力怎么样，写过的最复杂语句是什么3.Python全局锁是什么4.你怎么理解原子性5.进程和线程6.多线程处理是否会受到全局锁的影响7.Python元组和列表的区别和相同点8.列表、元组是否可变9.多线程和多进程10.深拷贝和浅拷贝区别

1.项目交流（非拷打），甚至有一半时间都是对方在介绍情况2.介绍一下你课题组做过的横向3.是否有去现场，怎么跟工程师交流的4.是否有独立做项目的经历5.我们这边需要从0-1做xxx，如果要你做的话，你有什么规划6.你认为你可能会遇到什么困难，你会怎么解决7.关于数据标注、语料清洗你有什么经验8.对于大模型SFT、RAG、MCP、RL等不同的技术路径，你认为有什么区别，适用什么样的场景，大概介绍一下9.能否接受出差

总时长70分钟左右，比一面显著更难，对项目抠得很深，八股都是结合项目问的，算法题是hot100中的困难题1.实习介绍2.后面问了相当多的项目细节，以及具体参数(选的框架、显卡配置、训练参数等)，有10多个问题，期间还让比较GRPO、DPO、DAPO、GSPO等方法3.项目+八股:图片是怎么传递给VLM(Qwen2.5 VL)并被VLM理解的，你知道吗?4.项目:用的什么Loss?;可以用numpy写一下公式吗?5.项目+八股:你说到Owen2.5 VL是包括ViT的，可以介绍一下ViT的结构和原理吗?6.Qwen 2.5 VL里面的Transformer结构和普通的Transformer的结构有哪些不同?7.RMSNorm和LayerNorm主要区别在哪里:现在大模型更喜欢哪个，为什么这么设计?8.算法题:lc25 K个一组反转链表(9.反问