米哈游鹿鸣组算法认可度

给我面没招了，发点面经攒攒人品～1. 项目介绍2. 讲GNN论文的创新点来源，图是怎么构建的3. 天池推荐算法做了哪几路召回，构建了哪些特征，为什么要做这些特征4. word2vec两种方法有什么区别，各适用于什么5. 召回和排序的负样本构造，来源，配比是什么6. 用户/物品冷启策略各能想到哪些7. L1 L2正则化的作用和区别8. 介绍sgd adagrad adam等优化器和各自问题9. 推导交叉熵损失函数手撕:k个一组翻转链表

被横向挂了，希望发出来对大家有帮助！1* 简单概述你简历中的两个项目，包括项目背景以及你的具体分工，是独立完成还是团队协作2* 项目的数据来源是什么？你是如何确定优化目标的？3* 比如数据从 100 条扩充到 1.2 万条，是否全通过自动化生成？生成的样本具体是什么样的？举个例子说明一下生成前后的对比4* 怎么保证自动化生成数据的正确性呢5* 在通过调整参数直到模型回答正确为止的过程中，是否意味着生成的CoT中存在错误逻辑？6* 经过数据清洗后，最终用于SFT的有效数据量是多少？7* 在做微调时，除了 LoRA 是否对比过其他的微调算法8* 你是如何评价微调效果的？测试集的比例是多少？微调前后的准确率分别是多少？原有的模型性能保留了多少？9* LLM常用的结构是什么？10* 说一下Transformer 的整体结构11* 目前主流大模型最常用的位置编码是什么？。12* 写一下多头注意力机制的数学公式。13* 公式中为什么要除以 \sqrt{d_k}？其对梯度消失或梯度爆炸有什么影响？14* 在 Transformer 的 Encoder 和 Decoder 中，哪些部分是可以并行计算的，哪些不可以？15* 除了 LoRA，你还了解哪些微调方法？16* 大模型训练通常使用什么损失函数17* 在机器学习基础中，二分类问题、多分类问题以及回归问题分别使用什么损失函数？18* 你了解哪些优化算法19* 模型训练中出现过拟合的常用解决方案有哪些？20* Dropout 在训练阶段和预测阶段的处理方式是否一致？为什么要这样做？21* 大模型中的“复读机问题重复生成是什么原因导致的？如何从解码策略或训练层面解决？22* 幻觉问题产生的原因是什么？目前常用的工程解决方案有哪些？23* 写出逻辑回归的数学公式。

整体面试还是不错的，但是没后续了，不知道是哪里出了问题1.项目提问2.聚类怎么实现?3.层次聚类和DBSCAN有什么区别?你用了什么停止准则?4.解释TD35.为什么不用PPO而用TD3?6.TD3为啥输出的是确定性策略，里面的actor不也是概率的吗?7.大模型里的RL了解过吗?8.相对和绝对位置编码有哪些?相对位置编码的优势?9.能外推的相对位置编码有什么?10.Normalization有哪些?11.NLP任务里为什么用LN不用BN?12.BN适用于哪里?为什么?Python基础:1.运算符是干嘛的2.kwargs和*args什么区别3.Print(*args)输出什么4.进程，线程，协程5.Async6.@是什么?pytorch里具体怎么实现的?7.装饰器的原理手撕:最长公共子数组，用O(n)方法实现(可以看出面试官想挂我

一面：讲一下论文。深挖了一下项目。讲一下强化学习。代码题不是leetcode，完整做出来了。二面：讲一下论文。grpo和ppo的区别。大模型训练流程。拒绝采样数据处理怎么回事的。问了一下对自己的期待和未来职业规划。问了我的优点和缺点。没有编程题。三面：讲一篇自己的论文。介绍项目。问了微调大模型如何卡阈值。为什么CLIP的嵌入效果不好？有什么解决办法。手撕了infonce代码。许愿hr面。