百度大模型算法面经

牛客活跃度可能会高一些，来听一下大家意见目前心仪offer3个，都还没开价1.淘天业务部门，做大模型应用的，杭州优点：title很大，很喜欢，而且很想留杭州。缺点：淘天裁过应届2.京东领域基座模型后训练，北京，亦庄优点：基座，可以fellow热点，去基座团队可以积累很多经验，估计钱给的也很多缺点：午休1h，我一般需要午休半小时，估计不太够。3.B站，基座模型团队，上海优点：wlb，并且b站团队leader技术很好，被他拷打过，但是很喜欢技术好的leader缺点：title小一个层级各位群友帮我分析下京东比淘天高多少可以去京东？我这种适合问b站要多少的base？

本人中九本硕，目前面临抉择，是大模型还是后端还是搜广推，听说今年大模型卷到爆炸，后端好像好些，如果从钱途和发展来看哪个方向更好啊，还有就是我周围的人基本上走的开发，是不是985也是大部分去了开发啊

1️⃣一面 1.聊项目2.transformer 相关3.python 一些八股4.code ：岛屿数量2️⃣二面1.聊项目2.结合项目问八股3.code :盛水最多容器、接雨水3️⃣三面考察抗压能力，团队协作能力，询问有没有遇到过难题是怎么解决之类的📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

1．项目介绍2．讲讲你对 transformer 的了解3．有哪些常用的解码策略， topp 和 topk 的具体细节，以及实现上的差别4. 意图分流的 agent 怎么做微调的，用了多少数据5.如何做 embedding 微调的，如何构造正负样例，训练的 loss 是什么6.RAG有哪些可优化的地方7．你的 RAG 项目中用到了 agent 吗，一般 agent 会用在RAG 链路中的哪些部分8．做 sft 时是怎么做数据配比的，参数具体怎么设置的9.RLHF的流程，有没有训过 PPO10. deepseed 的原理，zero1,2,3怎么做的11.了解过排序模型吗，讲几个经典的排序模型吧12．说一下 vllm 部署8*7B的 MOE 模型每秒大概能推多少token13．对比学习了解吗，讲一下（比较突然，不知道为啥要问）14.code :实现rand5到rand7