1．项目介绍2．讲讲你对 transformer 的了解3．有哪些常用的解码策略， topp 和 topk 的具体细节，以及实现上的差别4. 意图分流的 agent 怎么做微调的，用了多少数据5.如何做 embedding 微调的，如何构造正负样例，训练的 loss 是什么6.RAG有哪些可优化的地方7．你的 RAG 项目中用到了 agent 吗，一般 agent 会用在RAG 链路中的哪些部分8．做 sft 时是怎么做数据配比的，参数具体怎么设置的9.RLHF的流程，有没有训过 PPO10. deepseed 的原理，zero1,2,3怎么做的11.了解过排序模型吗，讲几个经典的排序模型吧12．说一下 vllm 部署8*7B的 MOE 模型每秒大概能推多少token13．对比学习了解吗，讲一下（比较突然，不知道为啥要问）14.code :实现rand5到rand7

1.自我介绍➕项目介绍但是没有深挖项目2.跨域是解决了什么问题，跨域的请求有什么3.Get和post的区别4.有了解过什么MVVM框架吗5.Vue这种框架的出现是为了解决什么问题出现的6.nodejs的出现是为了解决什么问题7.Electron框架是如何和web链接的8.AI大模型的出现有什么影响9.你对科大讯飞这家公司有什么看法感觉有点像kpi，八股没问，实习经历没问，另外一个项目也没问，总体就30min，答得感觉也差不多啊，给人一种挂了感觉

一面: 1.项目介绍2.面试官是同校大我三届的师兄，一眼被他看出项目深度不够，于是简单了解完之后直接开始八股3.问kv cache相关4.decoder的 qkv输入分别来自哪5.除了MHA还知道哪些(GQA MQA MLA)讲原理6.问DPO PPO GRPO DAPO 原理、公式、为什么这么做7.有没有看过原论文有什么自己的理解8.DPO的训练和PPO的奖励模型的训练过程是否一样9.问有没有看过deepseekqwen的技术报告，问MoE10.告诉我快手新发了几篇强化学习的论文让我去看(ARPOAEPO)11.然后问了三道智力题:一个开关灯、一个烧绳子计时、一个水桶倒水12.出了两道编程题:题目难度不小，都是力扣困难题，还不是原题，涉及到改编

📍面试公司：荣耀🕐面试时间：25.11.11💻面试岗位：大模型算法工程师❓面试问题：1. 自我介绍2. 问有没有大模型相关项目，针对这个项目问了很久3. 感兴趣强化学习，问一个最新论文如何使用强化学习的。我用到了SAC，接着问大模型推理的top k策略选择答案和SAC选择动作的策略的区别（这脑回路）4. DQN怎么能应用于大模型工具选择5. 强化学习输出全0和全1怎么解决，训练上的改善方法6. 大模型微调，lora有什么缺点7. PPO有什么缺点8. 反问：大模型平台部，主要搞agent，周末不太加班。🙌面试感想：两个面试官，都不开摄像头。本来想说的，后来忍住了，下次绝对不忍！都是岗位一线的，提的问题都非常需要创新和批判性思维，其实从这一点上看荣耀氛围还不错。但是有时候不讲现有方法直接问怎么改进，而且有些使用模糊的词汇（比如他说Q-learning，我以为他说的是算法，但其实他想说的是value network）造成很多误解。整体而言强度很大，感觉面试还挺有收获的。