实习转正，坐等开奖

1h30min八股：1. lora原理，lora初始化，AB可以全零或者全高斯吗，通常在什么参数矩阵上加lora，有什么超参数，怎么知道哪些超参数组合效果最好2. dpo/ppo/spin原理，loss，过程中有几个模型3. dpo正负样本之间只有少量差异，这个时候效果不好，为什么，怎么解决4. 训练的pipeline，deepspeed zero123原理和用了哪个，为什么用这个5. 量化框架知道哪些？vllm原理6. 大规模数据，rag怎么快速检索召回（不知道，面试官说什么稀疏index什么什么的，没听过也没记住）7. 对比学习原理，怎么做的，哪些做负例哪些做正例，loss，超参数，最终是什么参与loss计算主要拷打实习：1. 实习rag中的embedding模型用的哪个，为什么用，为什么不用bge2. 知识库是单纯召回，还是有精排，策略，链路什么样，都用了哪些模型3. 模型部署上线经手了吗，参与度4. dpo数据怎么来的，自己改还是模型生成，效果好吗，有探索过最新的对齐方法吗5. 最近读过的论文，实习有用比较新的论文的方案吗，照比现在方法改进点在哪6. 实习公司数据库用的什么手撕：编辑距离，听说过没做过，没撕出来换了道easy，链表有无环，感谢面试官！

一二面非常非常水，几乎是什么也没问躺过。三面谈薪，面试官说为我争取到了最高薪18.5k他说很想帮我争取ssp，但是中兴ssp强要求论文，我🈚论文，所以不能ssp，普通offer顶薪是18.5k拒嘞

一小时整，主要在拷打实习，第一个实习已经完全记不住还被重点拷打八股:1 lora 原理与初始化2 dpo 原理与loss3 全参，sft哪个效果好反问:做什么业务的答:没具体说，只是说重点业务，然后sft，dpo，rag都做

都是简历过筛，然后发笔试发测评，做完就秒挂。还有阿里国际笔试和淘天测评没做，怀疑也是这个套路。暑期实习的时候阿里系都是先约面后补笔试测评，秋招简历过筛迟迟不约面，估计就等着笔完挂，那为什么不直接简历挂，浪费时间

1面技术，算法机器学习，20min🈚八股🈚手撕面试官很温和亲切，开始第一句就说简历不错，工作挺丰富，然后让我介绍pdd实习，负责什么，怎么做的，然后开始问问题。1. sft prompt算loss吗2. pretrain怎么算loss3. sft和pretrain区别4. 工作中使用sft初始loss和收敛loss数值分别是多少，并分析为什么是这些5. pretrain刚开始训练的时候loss数值应该在多少，最开始的时候交叉熵会出现无穷大的情况吗全程在问loss相关的问题，主要后面这两个问题问的有点蒙，实在是没有想过太多。然后面试官就说看起来训练不是自己写的，是组内有写好的pipeline吧，说trainer这些谁都会用，但是还是要有一些自己的思考。2面HR面，经典问题1. 为什么转码2. 有哪些offer，有哪些在流程3. 其他公司和京东你选谁，为什么4. 为什么转码5. base地倾向6. 询问实习工作，秋招想做什么7. 画大饼，说今年校招薪资保证遥遥领先，尤其算法大幅度涨薪反问: 最近京东裁员和提倡奋斗是怎么回事更新: 卡了一个多月没约三面，挂了

1. 实习的各种问题，实习收获，为什么实习，和之前的实习有什么不同，负责什么，学到了什么2. 为什么转码，很经典问题3. 场景题，假如出现某某问题，你如果作为组长如何排查解决4. 本科成绩，为什么选择本校读研5. 意向城市，户口问题，定居问题，籍贯问题6. 加班的接受程度

全程拷打实习1h完全没问项目和八股没手撕，出了一道概率题

1. bpe讲一下（不会）2. ppo讲一下，dpo讲一下（怎么都爱问这个）3. rl，基于值函数和策略，异同，哪个好4. 拷打项目，不复杂的任务为什么要用llm（当然是追热点）5. 状态，动作讲一下概念6. rag的embedding用的什么，怎么优化，召回性能，精排性能7. 幻觉怎么解决8. 拷打实习手撕数组topk感觉字节很喜欢拷打强化学习和embedding，二面三面都围绕这两个问

1 dpo ppo区别（ppo不会，讲dpo）2 dpo训练遇见什么问题了，如何解决，扯了半天但是感觉也没说对（其实不会，一直扯对比学习）3 最新的sota的embedding模型什么结构，什么技术（没关注过）4 decoder only和encoder only的embedding模型分别有什么优点，谁更好（不会，只能说出个因果注意力和双向注意力，然后说可能encoder更好一点，然后被更深入问，然后烂了）5 强化学习advantage讲一下（这啥啊，完全没听说过）6 rag怎么优化的7 传统rlhf怎么做的8 gpt2和llama3在transformer层的区别（我就只说了norm和激活函数）9 拷打实习手撕 mha

🕒 岗位/面试时间算法  整1h面试👥 面试题目八股不难1 自注意力原理说一遍2 自注意力计算复杂度3 transformer时间复杂度，瓶颈，优化4 注意力优化方法有哪些，计算优化，io优化，显存优化5 推理优化，vllm（不会，看过忘了）6 qwen2技术（不会，没看过），主动吟唱了一遍llama3技术报告主要问实习，几乎都在问实习实习重要程度>论文>>项目后面两个都不关心，八股问的也不是很多很关心懂不懂多模态，穿插这问了多次会不会多模态，cv大模型，一知半解只简单看过大致原理，没上手做过，简单说了一下最后问了研究和业务倾向于什么岗位反问不知道问啥，每次都不知道问啥，不太好意思问自己表现😫😫😫🤔 面试感受年轻面试官，很热情和善，正反馈充足

刷了两段实习，一段24年1月到4月，一段24年5月到现在。都是算法岗，两家公司出奇一致就是，正式工稀缺，一个正式工带一堆实习生，然后实习生干活，每个实习生几乎算是独立负责一个项目，然后很少指导，给个大概设想或者给个github链接论文链接就开搞，几乎没什么收获，在学校什么水平出来了还是这个水平。因为没指导，所以做的时候还是拿学校那一套思维思想去做，永远困在同一个高度同一个深度，跟想象当中会收获满满不太一样

起了一排花名，前面的没通过，被选了个特土的