25届多模态算法｜秋招阶段小结

1.项目介绍2.讲一下在百度实习期间做的主要工作。3.压缩专家机制是如何实现的？4.用的训练数据集规模分别是多少？5.为什么选择用SFT训练，而不是用RL训练？6.介绍一下 DPO, PPO, GRPO的原理和区别7.PPO的损失是token级别还是sequence级别的？8.PPO中的Critic模型是如何计算优势的？9.讲一下LoRA微调技术原理10.LoRA微调是如何减少训练参数的？11.LoRA技术有哪些优势？12.算法题手撕 三数之和（撕出来了

没错时隔一个月我再次投了腾讯，虽然准备的不多但是这次感觉运气格外的好，本来想着再试一试的没想到流程推的很顺利。准备面试的过程中发现网上对于一些非八股的面试面经比较少，所以想着写下这篇文章供后来人看，希望能够为大家面试提供一些帮助。12.29 投简历12.30发通知一面12.31一面 自我介绍 让我打开屏幕共享打开记事本写代码（这一上来确实没想到，原本准备了大半个月的算法和八股结果啥都没问，当时还是比较紧张的，上来这么一出有点被吓到了） 1.写一下斐波那契数列前N项和。（比较简单，心里也放松了一点） 2.问了一下刚才写的代码的时间复杂度。 3.玩过MOBA类游戏吗？（答：王者荣耀） ，亚瑟在使用...

1.项目经历2.模型的 loss 函数前乘以10，会对训练造成什么影响？3.deepseek v3的 rope 实现？ deepseek r1的训练过程？4.做过 rag 是吗？介绍 graph rag ?5.bge 和 gte 模型怎么训练的？为什么不能直接用 bert - base 来做余弦相似度召回？6.对比学习的常用 loss 有哪些？ InfoNCE 的超参数？温度系数对训练的影响？7. gradient checkpointing 原理？ gradient _ accumulation 原理？8.多模态大模型的预训练原理？预训练一般分为几个阶段？ ViT 现在一般用什么方法进行预训练？9. 手撕：梯度下降求平方根。

博主是打算走游戏引擎或者游戏客户端方向的，但是目前日常实习只接到字节剪映客户端offer，主要是干跨平台app的中间层和底层架构，以及mac和win的OpenGL相关问题，以及音视频解码工具链开发，不知道对后续求职有没有影响。本人还是想在游戏行业深耕，腾讯那边本来今天推进到hr面，结果突然又加一个gm面，感觉等不到了呀，字节约的1.5号入职，有点两难了