211本硕腾讯大模型算法岗面经

一面 1.介绍项目，问项目难点在哪，怎么解决的2.问项目里的数据合成方法，如果不这么做还可以怎么做3.问RAG的流程，知识库，检索方式，提示词怎么写的，问RAG里的一些问题，如果检索不到怎么办，如果知识库没结果怎么办等等4.问DPO PPO GRPO原理，问loss怎么算的，对比5.做DPO的时候调了哪个参数，有什么作用(beta)6.transformer架构、注意力机制，问知不知道其他的除了7.MHA之外的比如GQA等8.手撕-旋转遍历矩阵二面1.介绍项目，问项目背景、项目里一些问题2.讲了实习项目里DPO的一些设计3.问知不知道模型训练的一些参数，答了温度参数、topp、top-k这些，然后问互相搭配的一些影响，问原理手撕-忘记了但也是力扣原题很简单

1.自我介绍➕项目介绍但是没有深挖项目2.跨域是解决了什么问题，跨域的请求有什么3.Get和post的区别4.有了解过什么MVVM框架吗5.Vue这种框架的出现是为了解决什么问题出现的6.nodejs的出现是为了解决什么问题7.Electron框架是如何和web链接的8.AI大模型的出现有什么影响9.你对科大讯飞这家公司有什么看法感觉有点像kpi，八股没问，实习经历没问，另外一个项目也没问，总体就30min，答得感觉也差不多啊，给人一种挂了感觉

1．项目介绍2．讲讲你对 transformer 的了解3．有哪些常用的解码策略， topp 和 topk 的具体细节，以及实现上的差别4. 意图分流的 agent 怎么做微调的，用了多少数据5.如何做 embedding 微调的，如何构造正负样例，训练的 loss 是什么6.RAG有哪些可优化的地方7．你的 RAG 项目中用到了 agent 吗，一般 agent 会用在RAG 链路中的哪些部分8．做 sft 时是怎么做数据配比的，参数具体怎么设置的9.RLHF的流程，有没有训过 PPO10. deepseed 的原理，zero1,2,3怎么做的11.了解过排序模型吗，讲几个经典的排序模型吧12．说一下 vllm 部署8*7B的 MOE 模型每秒大概能推多少token13．对比学习了解吗，讲一下（比较突然，不知道为啥要问）14.code :实现rand5到rand7

📍面试公司：荣耀🕐面试时间：25.11.11💻面试岗位：大模型算法工程师❓面试问题：1. 自我介绍2. 问有没有大模型相关项目，针对这个项目问了很久3. 感兴趣强化学习，问一个最新论文如何使用强化学习的。我用到了SAC，接着问大模型推理的top k策略选择答案和SAC选择动作的策略的区别（这脑回路）4. DQN怎么能应用于大模型工具选择5. 强化学习输出全0和全1怎么解决，训练上的改善方法6. 大模型微调，lora有什么缺点7. PPO有什么缺点8. 反问：大模型平台部，主要搞agent，周末不太加班。🙌面试感想：两个面试官，都不开摄像头。本来想说的，后来忍住了，下次绝对不忍！都是岗位一线的，提的问题都非常需要创新和批判性思维，其实从这一点上看荣耀氛围还不错。但是有时候不讲现有方法直接问怎么改进，而且有些使用模糊的词汇（比如他说Q-learning，我以为他说的是算法，但其实他想说的是value network）造成很多误解。整体而言强度很大，感觉面试还挺有收获的。