投递时间3.10~4.10面了淘天 控股 字节 腾讯 蚂蚁的大模型岗大概问的都差不多，主要是简历的东西，剩下一点时间会问一些八股。总结一下八股：强化学习（目前每个面试官都会问），L1 L2正则化，LoRA原理，其他PEFT方法，SFT和DPO的区别，SFT和DPO训练心得，Transformer结构，位置编码，长度外推，优化器，flash attention，分类为什么用cse而不是mse，BERT系列训练流程与各种变体，AUC指标，最近读过的论文。#暑期##算法#

自我介绍项目。用文本进行图像搜索项目，用户的输入文本和训练使用的有偏差怎么办（例如比较口语化）？从现场弄一些数据进行微调，或者给用户一下提示，让用户知道怎么样能更好的匹配。无做题。反问：岗位相关。为什么支付宝现在支付会减几块钱？以及碰一碰。因为wx一般大家都是打开的，买东西的时候，不用切换app进行支付。简单的优势就导致支付宝落在了下风，因此用优惠和碰一碰来和wx竞争。40 min结束。一分钟后面试通过。蚂蚁的面试流程真是舒服啊！

4.9 一面4.11 二面4.15 通知二面通过等了一周多了还没有通知HR面，希望能够赶紧有进展，真的很想去蚂蚁啊#蚂蚁#----------还愿来了，找了一个多月也算有着落了4.23 口头offer4.27 oc

4.21 投简历4.23 约后天一面4.25 一面无手撕，上来先拷打论文，其中有个地方用了rag，面试官问我这里是怎么把文本转换成向量储存的。(我以为是问我工程上的实现，这是去年做的一个小模块，回忆了半天细节，答得支支吾吾，面完了之后结合下一个问我才意识到其实是问我embedding过程)看我支支吾吾就直接问transformer是怎么把token处理成向量的。transformer的self-attention和cross self-attention区别在哪里。pre-norm和post-norm的区别？进一步，为什么现在主流大模型都用post-norm。lora的实现过程。大模型用的Lo...