字节跳动-校招-推荐算法面经

1.实习介绍2.grpo 在做大模训练时，一般用全参数微调还是 lora 微调？3.训练的优化器一般用什么？ Adam 跟 SGD 的显存相比哪个占比更高？4.除了 FM 和 DeepFM 这种做特征交叉的结构，还有哪些其他的做特征交叉的结构吗？5.你之前的两段实习你觉得哪段对于你的个人成长来说是帮助最大的？6.你的推荐项目里面提到了用了腾讯广告算法的 trick 去提升模型能力，具体是什么？7.有遇到大规模数据处理的情况吗？用过 spark 吗8.代码题： leetcode hot 100的题

说面试时间40分钟，最后面了一个小时一。实习介绍二。项目介绍（基本上八股都是围绕项目来展开）1.项目数据集，多域建模前，有没有做一些探索性分析？2.每一步的出发点和落脚点（不管是不是自己写的项目，交给ai编的也要说出来，这是重要的业务出发点）3.懂大模型的知识吗？（现在很多面试都会问到大模型和生成式推荐）4.介绍Transformer（超高频考点，必会），你怎么理解QKV5.讲讲MHA的优点，还了解其他的注意力机制吗（flash attention等）6.讲讲BGD，MBGD，SGD的区别7.讲讲你用的优化器？（AdamW，这个也特别重要，那几种优化器的思路、公式，说出来的话就会很加分，但是考察的不多）8.说说ROC曲线和PR曲线的原理（必会的，相关指标问题），说一下AUC和GAUC的区别9.GAUC效果那么好，为什么上线的时候也要用到AUC（回答GAUC的局限性）9.你还了解哪些指标？（DCG,IDCG,）三。代码最长有效括号（hot 100）没做出来，按有效括号那个思路写的。四。反问

发一下面经供大家参考，有面过同岗位的欢迎评论区交流1. 请简述推荐系统的主要模块（如召回、粗排、精排、重排）及其各自的目标。2. YouTube DNN、DIN、DeepFM这些模型你了解吗？请选一个简述其核心思想，并说明它解决了什么问题。3. 如果快手“发现页”的推荐结果，用户点击率很高但观看时长很短，你认为可能是什么原因？你会从哪些方向去优化模型？（追问：在优化过程中，如何设计实验（比如A/B测试）来验证你的优化策略是有效的？）4. 如何理解“探索与利用”（Exploration & Exploitation）困境？在推荐系统中有什么常见的解决思路？5. 在构建推荐模型的特征工程中，对于“用户兴趣”这种动态变化的信息，你会如何设计和处理特征？6. 推荐场景中经常遇到数据稀疏和冷启动问题。针对一个新发布的短视频或一个新注册的用户，你有什么策略？7. 除了优化线上指标，你认为离线评估推荐模型好坏，应该关注哪些评估指标？为什么？8. 请描述一个你课程或项目中与推荐相关的实践，并说明你的技术选型和思考过程。9. 你平时会使用快手吗？从推荐算法的角度，你观察到哪些有趣的现象或有待改进的点？

感觉面的还可以，不知道是哪里出了问题1.简历拷打2.对多模态和大模型这些有了解吗？3.bn和ln的区别在哪里？相似之处又在哪里？4.auc不可微问题如何解决？5.如何解决你项目中训练时候的跷跷板问题？6.代码下一个排序四数相加