大模型算法

面试官人挺好，我表达的也比较流畅问项目细节，训练指标等等，看我是不是真的做过友好探讨了蒸馏过程中的细节，感觉面试官是偏业务的那种，做的东西和我的经历也比较匹配问八股 ppo grpo区别，KL散度的作用，有什么问题一共半小时，无手撕反问业务（主要是垂域大模型，负责五八的各种业务，算是一个技术中台），工作地点（朝阳），工作强度（10-8-5）

1．项目介绍2．讲讲你对 transformer 的了解3．有哪些常用的解码策略， topp 和 topk 的具体细节，以及实现上的差别4. 意图分流的 agent 怎么做微调的，用了多少数据5.如何做 embedding 微调的，如何构造正负样例，训练的 loss 是什么6.RAG有哪些可优化的地方7．你的 RAG 项目中用到了 agent 吗，一般 agent 会用在RAG 链路中的哪些部分8．做 sft 时是怎么做数据配比的，参数具体怎么设置的9.RLHF的流程，有没有训过 PPO10. deepseed 的原理，zero1,2,3怎么做的11.了解过排序模型吗，讲几个经典的排序模型吧12．说一下 vllm 部署8*7B的 MOE 模型每秒大概能推多少token13．对比学习了解吗，讲一下（比较突然，不知道为啥要问）14.code :实现rand5到rand7

一共1h。项目简单介绍。10min左右。然后就是结合实习项目的 35min 的各种八股提问。最后15min做题。给了三个题，我选的 岛屿的个数，hot100里边的。其它两个好像也是hot100里边的（有个三数之和）。反问环节，是什么方向，搜索。有什么面试建议，语速可以快一点（笑），这样可以聊更多的东西。记录一下八股部分。VideoMAE怎么训练的？CLIP和MAE有什么区别？BLIP和CLIP的区别？在 ITC的基础上引入了 ITM loss 和 LM loss，让模型可以进行文本生成。ITM loss是判断图文是否匹配，可辅助数据清洗。BLIP的B什么意思？Bootstrapping （自举...

一面: 1.项目介绍2.面试官是同校大我三届的师兄，一眼被他看出项目深度不够，于是简单了解完之后直接开始八股3.问kv cache相关4.decoder的 qkv输入分别来自哪5.除了MHA还知道哪些(GQA MQA MLA)讲原理6.问DPO PPO GRPO DAPO 原理、公式、为什么这么做7.有没有看过原论文有什么自己的理解8.DPO的训练和PPO的奖励模型的训练过程是否一样9.问有没有看过deepseekqwen的技术报告，问MoE10.告诉我快手新发了几篇强化学习的论文让我去看(ARPOAEPO)11.然后问了三道智力题:一个开关灯、一个烧绳子计时、一个水桶倒水12.出了两道编程题:题目难度不小，都是力扣困难题，还不是原题，涉及到改编