阿里大模型算法面经

1．项目介绍2．讲讲你对 transformer 的了解3．有哪些常用的解码策略， topp 和 topk 的具体细节，以及实现上的差别4. 意图分流的 agent 怎么做微调的，用了多少数据5.如何做 embedding 微调的，如何构造正负样例，训练的 loss 是什么6.RAG有哪些可优化的地方7．你的 RAG 项目中用到了 agent 吗，一般 agent 会用在RAG 链路中的哪些部分8．做 sft 时是怎么做数据配比的，参数具体怎么设置的9.RLHF的流程，有没有训过 PPO10. deepseed 的原理，zero1,2,3怎么做的11.了解过排序模型吗，讲几个经典的排序模型吧12．说一下 vllm 部署8*7B的 MOE 模型每秒大概能推多少token13．对比学习了解吗，讲一下（比较突然，不知道为啥要问）14.code :实现rand5到rand7

今天金山云来宣讲，我做的的方向都是导师安排的杂活。涉及到硬件PCB设计、操作系统内核编译、K8S部署、模型轻量化等等。hr说会有边缘计算方向的说我可以投我就投了。并且宣讲会说方向不一致没关系，会有耐心培养，就投递了。十分钟就结束了，面试一上来最后一句说了下爱好，就这一句话，其余都在说项目。直接打断，说那些没有用的就不用说了。然后就让算大模型内存什么，我说我不太会。他说你做过轻量级这不会算吗？然后让看他在纸上写的代码说输出，没说太好。又说你做过嵌入式这都不会？之类的。最后让我反问，我说我看有边缘计算我才投的，说没有，只有服务器异构计算。和HR说的也不一样。可能lz能力一般，但也被宣讲的hr误导了...

1、介绍自己的中厂实习。2、追问实习业务的上下游，以及交付标准、测试集怎么构成:3、追问为什么这个业务要引入大模型，大模型解决了什么问题。4、大模型sft解决不了业务问题吗?为什么还要引入强化学习。强化学习主要解决业务中的什么问题。5、讲一下PPO和GRPO的原理和区别6、如何理解强化学习中熵的概念，如何保证训练过程中熵保持在较高的水平。7、强化学习中调参的经验8、强化学习中on policy和off policy有什么区别?grpo是on policy的吗?如何实习真正的on policy强化学习。9、多模态大模型的训练过程有什么不同?10、多模态大模型的vision encoder一般使用vit的第几层输出?11、mlp和Q-former两个模态融合模块的优劣?12、手撕二叉树层序遍历

你大概是在什么时间节点开始关注秋招岗位的？找工作的要求和期望是怎样的？有对比过其他岗位方向吗，比如前端、算法或者客户端相关之类的？你的服务端学习路径是怎样的？你一般通过哪些维度来判断是否要进入一家企业实习，即如何选择实习岗位？你的某家实习公司主要开展什么业务？哪一家企业的实习安排和工作节奏让你更适应？你如何平衡实习、课程学习以及专利、论文发表等事务？你是怎样平衡社团、比赛和编程类挑战这几者之间的关系的？在做服务端开发项目的过程中，你对自己在开发层面一般有怎样的要求？你算是学校里比较“卷”的同学吗？对于后面的技术发展方向，你更希望进行技术深耕，还是往团队管理或项目全盘管理方向发展？在技术开发过程...