时间: 50min八股:1. 你理解的agent是什么2. decoder only的好处是什么3. 为什么要rlhf，为什么要对齐4. llama3怎么训练的（好奇怪的问题，别人家都问llama3用哪些技术，第一次被问是怎么训练的）5. dpo原理，为什么要用dpo，与ppo改进6. sft细节实习:1. 业务是什么2. 组内多少人3. 负责什么4. 为什么用xx技术5. 你去的时候已经做到什么样了6. 为什么用xx模型手撕:LeetCode 第十题 hard面试官问我，为什么不动笔呢，是不会吗没见过的hard臣妾是真做不到啊。看我做不出来就说先这样吧。反问:什么业务答:1. 多语言大模型预训练（怪不得会问llama3训练技术，以及很关心对齐阶段的八股）2. 多模态3. llm应用

总时长 10min1. 自我介绍2. 挑一段自己的经历介绍我讲了pdd实习面试官问，你负责的模型多大，怎么训，几卡，数据量多少我说，7b，360条数据➕几千通用数据，lora，单卡面试官光速变得不感兴趣，直接说我们今天的面试就到这里

bg本硕大连理工，本非科班硕计算机，三段实习，两段外企很水的实习，一段pdd，都是算法实习，无论文，秋招找算法ocpdd转正字节中兴，已拒其他面试情况京东二面完官网一直在流程，没人约三面阿里几乎全系笔试挂或者简历挂，高德一面挂百度实习面评烂，简历挂，没人捞腾讯实习面评烂，没人捞美团实习面评巨烂，三个意向都简历挂，没人捞作业帮一面挂联想简历筛选挂携程，虾皮，贝壳，蚂蚁，荣耀，理想，蔚来卡在简历筛选或者简历筛选挂整个9月到10月，只有作业帮，高德，中兴，京东发面总结1. 实习面评还是很重要的，烂过的厂是真不给机会，捞都不捞一下了。同门腾讯也烂过，也是捞都没人捞2. 秋招不要投太晚，实习完九月多才开始投，基本就渺无音讯了3. 字节实习没投过，面评没烂，秋招给机会了，等着多多和字节二选一了，摆烂不投不面了

实习转正，坐等开奖

1h30min八股：1. lora原理，lora初始化，AB可以全零或者全高斯吗，通常在什么参数矩阵上加lora，有什么超参数，怎么知道哪些超参数组合效果最好2. dpo/ppo/spin原理，loss，过程中有几个模型3. dpo正负样本之间只有少量差异，这个时候效果不好，为什么，怎么解决4. 训练的pipeline，deepspeed zero123原理和用了哪个，为什么用这个5. 量化框架知道哪些？vllm原理6. 大规模数据，rag怎么快速检索召回（不知道，面试官说什么稀疏index什么什么的，没听过也没记住）7. 对比学习原理，怎么做的，哪些做负例哪些做正例，loss，超参数，最终是什么参与loss计算主要拷打实习：1. 实习rag中的embedding模型用的哪个，为什么用，为什么不用bge2. 知识库是单纯召回，还是有精排，策略，链路什么样，都用了哪些模型3. 模型部署上线经手了吗，参与度4. dpo数据怎么来的，自己改还是模型生成，效果好吗，有探索过最新的对齐方法吗5. 最近读过的论文，实习有用比较新的论文的方案吗，照比现在方法改进点在哪6. 实习公司数据库用的什么手撕：编辑距离，听说过没做过，没撕出来换了道easy，链表有无环，感谢面试官！

一二面非常非常水，几乎是什么也没问躺过。三面谈薪，面试官说为我争取到了最高薪18.5k他说很想帮我争取ssp，但是中兴ssp强要求论文，我🈚论文，所以不能ssp，普通offer顶薪是18.5k拒嘞

一小时整，主要在拷打实习，第一个实习已经完全记不住还被重点拷打八股:1 lora 原理与初始化2 dpo 原理与loss3 全参，sft哪个效果好反问:做什么业务的答:没具体说，只是说重点业务，然后sft，dpo，rag都做

都是简历过筛，然后发笔试发测评，做完就秒挂。还有阿里国际笔试和淘天测评没做，怀疑也是这个套路。暑期实习的时候阿里系都是先约面后补笔试测评，秋招简历过筛迟迟不约面，估计就等着笔完挂，那为什么不直接简历挂，浪费时间

1面技术，算法机器学习，20min🈚八股🈚手撕面试官很温和亲切，开始第一句就说简历不错，工作挺丰富，然后让我介绍pdd实习，负责什么，怎么做的，然后开始问问题。1. sft prompt算loss吗2. pretrain怎么算loss3. sft和pretrain区别4. 工作中使用sft初始loss和收敛loss数值分别是多少，并分析为什么是这些5. pretrain刚开始训练的时候loss数值应该在多少，最开始的时候交叉熵会出现无穷大的情况吗全程在问loss相关的问题，主要后面这两个问题问的有点蒙，实在是没有想过太多。然后面试官就说看起来训练不是自己写的，是组内有写好的pipeline吧，说trainer这些谁都会用，但是还是要有一些自己的思考。2面HR面，经典问题1. 为什么转码2. 有哪些offer，有哪些在流程3. 其他公司和京东你选谁，为什么4. 为什么转码5. base地倾向6. 询问实习工作，秋招想做什么7. 画大饼，说今年校招薪资保证遥遥领先，尤其算法大幅度涨薪反问: 最近京东裁员和提倡奋斗是怎么回事

1. 实习的各种问题，实习收获，为什么实习，和之前的实习有什么不同，负责什么，学到了什么2. 为什么转码，很经典问题3. 场景题，假如出现某某问题，你如果作为组长如何排查解决4. 本科成绩，为什么选择本校读研5. 意向城市，户口问题，定居问题，籍贯问题6. 加班的接受程度

全程拷打实习1h完全没问项目和八股没手撕，出了一道概率题

1. bpe讲一下（不会）2. ppo讲一下，dpo讲一下（怎么都爱问这个）3. rl，基于值函数和策略，异同，哪个好4. 拷打项目，不复杂的任务为什么要用llm（当然是追热点）5. 状态，动作讲一下概念6. rag的embedding用的什么，怎么优化，召回性能，精排性能7. 幻觉怎么解决8. 拷打实习手撕数组topk感觉字节很喜欢拷打强化学习和embedding，二面三面都围绕这两个问