八股： 0.拷打实习项目1.RL如果agent的动作是插入广告，但是在广告红线规则下，没有实际执行，这种情况会导致什么问题？怎么解决？（action diff）2.对于机器学习，你能想到哪些损失函数；对于分类问题，交叉熵损失的形式以及公式推导3.介绍一下过拟合的现象、原因、以及解决方式4.对于user-item嵌入向量有哪些学习方式？5.除了深度学习模型，机器学习中有哪些嵌入向量的学习方法6.协同过滤策略有哪些算法7.对于稀疏样本/延迟反馈问题，如何解决手撕：1.输入一个有向图G(V, E)，输出其拓扑排序；2.返回二叉树的最大直径

一面： 1.SIM hard-search采用哪些key去检索子序列，为什么不用搜索词意图去检索？soft search怎么做的2.端到端序列建模的方法，相比GSU-ESU的优势3.召排一体相比级联漏斗的推荐链路的优势4.LLM4Rec对比传统搜推带来了哪些收益5.有哪些多模态序列建模的优化方法6.文本描述的推理总结选用什么llm基座，原因？7.LN和BN的区别8.代码题：合并k个有序链表

1.实习介绍2. Lora 原理(核心是低秩分解:将原始权重更新近似为两个低秩矩阵乘积，减少参数量，保留主导方向，训练高效)3.了解 DeepSpeed 吗，ZeRO -1, ZeRO -2和 ZeRO3分别做了哪些优化(1优化优化器状态，2优化梯度，3切分参数，全面节省显存)4. Qwen的模型结构是怎么样的，相比于 LLaMA,DeepSeek 有什么区别(Qwen采用GQA+SwiGLU+RMSNorm，和LLaMA架构非常相似，差异在训练数据和tokenizer中文支持更好;DeepSeek只用MoE/MLA架构，Qwen系列主要是Dense模型)5.怎么缓解大模型的幻觉问题(RAG，RLHF对齐，事实监督)6.大模型的 MoE 结构相比于 Dense 结构训练的难点在什么地方，DeepSeekMoE为什么效果好，有什么值得我们借鉴创新点(MoE面临负载不均衡、训练不稳定问题;DeepSeekMoE通过细粒度专家和共享专家设计提升稳定性和效果)7.知道FP16和BF16有什么区别吗，包括FP32和INT8这些，在训练大模型的时候，应该怎么选择(FP16精度高但易溢出，BF16动态范围大;训练常用BF16混合精度，推理用INT8量化加速)8.讲-下 RLHF 的流程，写-下 PPO和 DPO的 Loss表达式(训练奖励模型后用PPO/DPO优化策略:PPO Loss: policy ratio + KL 约束/ DPO Loss: logit preference diff + sigmoid binary loss)9.对于超长上下文业界一般是怎么做的，你知道 Qwen是怎么做的吗(业界常用ROPE 变体/滑动窗口注意力/稀疏注意力等:Qwen使用YaRN和窗口注意力扩展上下文)10.开放题:你觉得目前大模型的上限在哪里(推理能力、长期记忆、具身交互和能耗效率，需要架构创新和多模态融合突破)11.代码:152.乘积最大子数组

1. 广告实习介绍，问的比较详细2. 广告常用的精排模型有什么？3. 介绍下多任务模型mmoe4. 介绍一下深度学习中的dropout5. 训练和预测过程中dropout设置方式，跟训练保持一样，还是随机选择一些节点丢弃，还是有其他方式6. 神经网络训练参数初始化方式，分别会有什么问题7. Layer Norm和Batch Norm的区别8. 梯度爆炸和梯度消失是为什么，如何排查，如何解决9. 介绍一下自适应学习率的算法10. 集成学习中的bagging和boosting有什么区别，分别选择一个代表算法进行介绍11. 代码题 LC 编辑距离

一面： 1.介绍项目2.reward迭代的意义和收益(项目相关)买卖股票的最佳时机3.一面感觉一直在聊项目没什么通用的二面:1.一场八股纯享 我还没介绍完我的第一个项目面试官0帧起手开始拷打八股2.了解哪些掩码和attention3.self attention和cross attention分别介绍有什么异同 transformer的encoder和decoder都用了什么4.介绍-下batchnorm5.训练预测有什么不同6.为什么预测要用全局的均值方差数据预处理的归一化可以替代batchnorm吗为什么7.transform用bn了吗8.bn和In有什么不同9.transformer为什么用In10.实习或者学校中常用的模型是什么 详细介绍一下11.transformer如何刻画时序12.介绍一下你了解的位置编码 各自优缺点13.代码题太长了就是类似一个有规则的序列找最大值

1.实习介绍2.项目介绍+拷打(主要是数据来源，数据构造方式，分块过程，rag流程，检索方式，涉及到的每个步骤的原理，transformer、dpo，如何评测的,如果是多轮message怎么作mask的)3.八股1.transformer架构、ffn层是干嘛的，它的架构(为什么先升维再降维)2.注意力机制的类型(mha，mqa，gqa，mla)各自的优缺点3.PPO、DPO、GRPO各自优缺点4.SFT损失及其公式4.代码题手撕多头自注意力机制

1.实习介绍2.简历拷打3.除了MMOE还用过其他的方案吗？cgc或者ple有尝试过吗？4.如何解决mmoe输出特征一样，专家的参数最终会趋于一致的现象？在网络参数随机初始化的情况下，不会发生问题中提到的问题。核心原因在于数据存在multi-view，只要每一个expert网络参数初始化是不一样的，就会导致每一个expert学到数据中不同的view。5.多任务loss调整中回归损失会主导训练任务是怎么处理的？在我的场景中是采用包序累积多分类替代了回归，也可以通过映射label上界或者禁止回传的方法，都试过。6.transformer的参数量是多少？层数（L）：Encoder/Decoder 的堆叠层数注意力头数（H）：多头注意力 的并行任务数隐藏层大小（D）：特征向量的维度序列长度（T）：输入/输出的最大 token 数 公式：总参数量 ≈ L×(4D^2+2D×H×T)7.介绍一下encoder和decoder？Encoder（编码器）作用：将输入序列（如文本）转换为上下文相关的表示向量。Decoder（解码器）作用：根据编码器输出生成目标序列（如翻译或回答）。8.在你场景中用的是二阶段的训练如何调整成一阶段的？代码 给一个整数数组a，对a中的相邻整数进行浮点除法，如a=[2,3,4]，即为2/3/4 在任意位置添加任意数目的括号，来改变算数的优先级，使得值最大，输出表达式

1. 手撕 合并区间2. 八股1）请介绍 Transformer 的结构组成及各部分作用，在长序列时空数据中，2）如何降低 Transformer 的计算复杂度？常见的稀疏注意力变体有哪些？3）GNN的消息传递机制是怎样的？在时空图中，如何结合时间信息编码节点特征？你接触过哪些时空 GNN 模型？4）LoRA微调的原理是什么？秩 r 的选择会对模型表现产生什么影响？5）RAG的完整流程，在时空出行数据场景里，构建向量检索库时如何处理时间衰减对召回的影响？6）强化学习在 Agent 优化中的应用，结合出行推荐 Agent，你会如何设计 Reward 函数？3. 项目1）微调时的训练数据是怎么构建的？如何保证样本多样性和质量？2）在 RAG+时空知识图谱的 Agent 系统中，知识图谱更新的机制是怎样的？是怎样保证实时性的？3）在大规模轨迹数据下是怎么做负采样（Negative Sampling）的？4）训练 LoRA 模型时，你是如何选择冻结层的？依据是什么？5）在高并发查询 Agent 系统中，你会如何优化召回和生成阶段的延迟？4. 开放题1）大规模 Agent 系统在多线程/多进程场景下的资源调度策略如何设计？2）如果你要在 GPU 资源有限的条件下同时提供推理和微调服务，如何做资源分配和任务调度以保证时延和吞吐？

一、手撕 题目：给定一个字符串 s 和一个整数 k，每隔 k 个字符反转一次，返回最终字符串。简单很快就写出来了二、八股1.自注意力机制是什么？计算复杂度怎么算？吟唱: 通过query-key相似度计算权重，对value加权求和，建模长距离依赖。O(n平方)n为序列长度。2.KV-Cache的如何加速推理？继续吟唱：生成时缓存已经计算过的kv，避免重复计算。3.LoRA的原理是什么？与P-Tuning、Adapter的异同点？LoRA的参数选择对模型性能有何影响？三连吟唱：原理是冻结原始权重，训练低秩矩阵参数。异同在于lora训练参数，p-tuning只优化了prompt嵌入。4.介绍下RLHF的基本流程，与DPO的差异是什么？主动吟唱：RLHF三段式，sft用高质量数据集微调，rm训练对比学习模型用于打分，ppo通过rl泛化增强。dpo直接优化偏好数据，省去rm和ppo。5.分布式训练中的TP、PP、DP分别是什么？TP按tensor维度拆分,PP按网络层数分段流水线执行，DP数据并行，复制模型副本分散计算6.flash-attention的原理是什么？这里回答没太好，只讲了通过内存层次结构什么的减少I/O瓶颈7.DeepSeek的MoA架构与MoE有何区别？moe通过门控机制选择专家子网络，参数规模增加但训练难度大。moa则用多个agent回答，通过数据迭代优化，缓解偏科。8.如何处理数据不均衡问题？上采样小样本，课程学习三、项目与实习1.agent实习主要负责哪些模块？动作规划，memory经验，evaluation pipeline，后训练，很多模块都参与了，面试官也挺震惊哈哈。这里聊比较多就不po了。2.记忆系统如何实现视觉-语言特征对齐？clip映射到联合embbeding上3.如果视觉模块误判，如何通过语言纠错？检测矛盾关键字，通过反馈触发重试。4.具体讲讲怎么构建evaluation pipeline的?做了数据爬取，版本控制，llm打分

介绍实习 介绍hard负样本构建方式介绍业界hard负样本构建方式有哪些手撕senet为什么要使用senet有没有什么其他结构可以替换senet，以及效果的差异手撕：正则表达式匹配

一面: 1.DCN2.演员-评论家算法家族(A2C、PPO、DDPG等)3.多任务学习跷跷板效应如何缓解4.时间复杂度是0(nlogn)的排序算法有什么它们分别在什么情况下会退化手撕是快速排序二面:1.了解什么长序列建模方法2.粗排和精排是目标越一致越好么3.可以用粗排模型去蒸馏精排模型么手撕是力扣1202.交换字符串中的元素

手撕1: 寻找有序数组中，target的出现次数，要求小于O(n)的时间复杂度 手撕2：查找数组第K小的元素 讨论实现思路 要求时间复杂度小于O(nlogn) 实习的LLM经历拷打 八股 如何增加模型泛化性？ 归一化方式，layernorm和batchnorm的区别和计算方式，为什么要有归一化 Transformer架构中，TOKEN 间交互和TOKEN 内交互分别在那些模块中？ 为什么基于attention的加权融合方式有效 反问：业务和模型使用情况，当前成熟度和存在难点，主要做搜广推，部分场景会用到大模型

答完秒挂。先是自我介绍，介绍完就开始问项目。由于我项目与企业并不是强相关，所以面试官就穿插问了些八股。总计30min。八股内容：指定类别数量和没有指定类别数量的聚类方法有哪些；GRPO算法相较于PPO算法的改进；LoRA原理；DeepSeek相较于GPT系在模型结构上的改进；Transformer中使用的掩码；搜索算法。然后是手撕：用最小的时间复杂度，找出无序数组中top-k的数。用基于快排的做法就可以了。可惜写的时候还是绕了点远路，因为平时背的是C++的版本，实际拿Python一写忽然反应不过来了。当然最后还是撕出来了。总计20min。秒挂的原因大概是因为八股答的不够好。自己的知识体系不够清...

小红书一面面完，要多久才会二面？