美团大模型实习生

#字节#  #美团点评#  #腾讯实习#  #腾讯音乐26届实习# 腾讯 s3 一面挂腾讯 wxg 数据工程 录用评估转后端腾讯 wxg 后端开发 offer字节 用户增长三面挂字节 国际电商 拒面了（国际局势不好，怕裁员）小红书 简历挂灵犀互娱 拒面了美团 二面挂猿辅导 简历挂携程 简历挂淘天 offervivo 简历挂米哈游 简历挂京东 offer快手 offermomenta 简历挂网易互联网 简历挂网易雷火 一面挂虾皮 拒面tme offer蚂蚁 拒面阿里控股 一面后拒面阿里云 拒面高德 二面挂

大家好，我是萌萌哒黑大帅，欢迎来到算法开发面试手残党攻略（串台了，划掉）这里作为第一人称视角，给大家分享一下面试时摄像头背后面试官的心理活动。先叠个甲，各家甚至各个面试官风格可能完全不同，因此不建议代入具体某场面试，仅供参考stage 1（筛简历）：目前为止我毕业不到三年，任职于商汤，技术栈属于广而不深，因此业务场景比较多样（可参考我过去发的jd）。先确定团队有需求才开始准备面试（不存在kpi面，但是有可能面完且通过，最后被通知没hc了），我这里多以校招和实习为主简历来源：ld筛完或者网友/群友直接塞简历，我拿到简历主要看候选人兴趣点，兴趣点广泛或者略微不一致的会打个电话简单聊一下，个人没有一...

✅一面1️⃣深挖多模态论文2️⃣介绍transformer架构3️⃣详细说一下Decoder的因果注意力 QKV分别来自哪4️⃣Attention为什么要做scaled 不做会怎么样 为什么用根号d_k5️⃣Transformer怎么做加速训练（KV缓存） 训练和推理有什么区别（并行化）6️⃣深挖多模态大模型论文用的video-llama 讲一下大模型的结构7️⃣论文用了CoT讲一下论文的CoT是怎么样的8️⃣微调用的LoRA介绍一下LoRA9️⃣LoRA初始化怎么做的，用的秩是多少，为什么不选其他的数1️⃣0️⃣知道deepspeed和megatron吗？分别介绍一下1️⃣1️⃣论文用的deepspeed详细讲了一下三个stage分别是什么✅二面1️⃣深挖多模态和大模型的论文2️⃣Decoder文本生成有哪几种方法3️⃣还知道哪些多模态大模型4️⃣介绍一下ALBEF、BLIP5️⃣BLIP2的结构是什么  两阶段怎么训练的 有哪些损失6️⃣知道PEFT吗 讲一下LoRA7️⃣还有什么微调方法 -> prefix-tuning和P-tuning 两者分别是怎么做的 为了解决什么提出的8️⃣后面就是一些场景题✅三面1️⃣深挖论文2️⃣讲一下multi-head attention 用pytorch手撕一下 要可以实现cross attention的3️⃣讲一下你用的大模型是什么结构 特征是怎么喂给大模型的4️⃣大模型训练为什么不用SFT5️⃣LoRA是什么？有什么好处6️⃣知道RLHF吗？讲一下训练流程7️⃣接下来就是好几个场景题，电商相关的，用大模型解决prompt应该怎么设计，怎么处理prompt的输出，怎么过滤错误格式的输出📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

4.21 投简历4.23 约后天一面4.25 一面无手撕，上来先拷打论文，其中有个地方用了rag，面试官问我这里是怎么把文本转换成向量储存的。(我以为是问我工程上的实现，这是去年做的一个小模块，回忆了半天细节，答得支支吾吾，面完了之后结合下一个问我才意识到其实是问我embedding过程)看我支支吾吾就直接问transformer是怎么把token处理成向量的。transformer的self-attention和cross self-attention区别在哪里。pre-norm和post-norm的区别？进一步，为什么现在主流大模型都用post-norm。lora的实现过程。大模型用的Lo...