压力大:百度大模型算法岗面试回放

1️⃣一面
1.自我介绍和项目介绍
2.介绍一下了解的大模型有哪些，这些模型在结构上有什么差异
3.说一下大模型常用的位置编码有哪些，各有什么优缺点
4.介绍一下大模型的预训练后训练以及推理是怎么做的，并且详细问了 RLHF 的做法，包括 PPO 算法的原理，以及 DPO 和 PPO 的区别
5.大模型的超长上下文是怎么做的，比如说 KIMI
6.大模型智能体是怎么工作的，有哪些组件
7.场景题：如何训练一个大模型，可以做到精确的提取摘要
8.代码:股票的四个题
121. 买卖股票的最佳时机
122. 买卖股票的最佳时机 II
123. 买卖股票的最佳时机 III
188. 买卖股票的最佳时机 IV
✴️整体来说一面偏基础，没有太多发散性的问题，整个面试一个半小时多
2️⃣二面
1.自我介绍
2.因为之前是做 CV 的，所以面试官问了 CV 和 NLP 的区别和联系，在 Transformer 的大背景下，CV、NLP，包括语音等，能否实现大一统
3.训练大模型的时候数据怎么清洗，怎么处理，怎么配比，怎样操作能更容易使模型达到更好的性能
4.什么是大模型的幻觉，如何减轻幻觉问题
5.大模型的复读问题是怎么产生的，业内一般有什么解决办法
6.大模型的工具调用怎么实现
7.Agent 有哪几部分构成，了解哪些具体的实现方法
8.开放题：之前训练大模型的时候遇到过什么困难，你是怎么解决的
9.代码：实现一个 Tokenizer，只能用 PyTorch 基础语法
✴️二面相比于一面更加看重综合素质，喜欢考察分析问题解决问题的能力，二面也面试了一个多小时，面试官还是挺专业的。
3️⃣三面
1.首先过项目，但是问的特别细致，尤其是一个 Agent 的项目，从背景，到动机，再到做法，最后的结果，都问的非常细，大概有半个小时的时间
2.开放题：你觉得当前大模型还存在怎样的问题，有什么解决办法吗
3.开放题：让你自己设计一个 Agent，会怎么做，为什么这样做
4.找工作比较在意的点是什么，除了薪资还有什么
5.对文心一言这个产品了解吗，有哪些优点和值得改进的点
6.如果给你发 Offer，你到这个团队能做出什么贡献
✴️三面整体来说更加综合，不止有一些技术问题，还有职业规划这些问题，更加考察整体的能力。面试官应该是这个团队的大老板，看问题更加系统和全面，整体面下来还是比较有压力的。
📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。