1、实习介绍2、讲述论文内容和细节3、是否了解过多模态大模型，简单讲一下了解的多模态大模型4、dpo 和sft 的区别，可以先dpo后sft吗?5、如何处理reward hacking?6、dpo如果应用在第一轮对话中应该怎样做你会如何构造这个数据集合?7、手撕hot100:二叉树的右视图

1.项目介绍2.介绍实习3.数据集使用的是公开数据集还在有自己构造数据集4.分别讲-下 Dense 模型和 MoE 模型以及二者的区别5.讲一下MoE的 路由机制是如何做的6.训练完验证使用的是什么数据集7.做这个工作的过程中的难点在哪8.如何做的 SFTQ9.介绍一下 PPO10.讲-下 RAG° 项目11.分类任务常用的评测指标有哪些12.讲-下 LORA° 微调的原理13.A、B 矩阵怎么初始化的14.LORA 微调秩设置的是多少15.算法题:三数之和

1.实习项目介绍和提问。2.对一份数据在某个场景下进行分类/识别/检测，用大模型有什么方法可以做？3.如何对AIGC的文本进行评估？4.幻觉如何解决？真实性如何评估？5.RAG过程中索引可以做哪些优化？6.kl散度表示的是什么。7.反思机制是什么做的？为什么要用反思？8.ppo中kl散度的作用。9.手撕kmeans10.实现一个简单的mlp，从csv读取数据。

1、实习介绍2、讲述论文内容和细节。3、对于模型训练过程中，如果出现样本标签数据分布极其不均衡，通常会采取什么方法来解决问题。4、transformer的感受野encoder中是可以看到所有的token的，你认为感受野越大越好还是越小越好。5、位置编码：sin cos，正余弦，bert可学习位置编码，rope相比于正余弦编码的优势。6、欠拟合和过拟合定义，通常如何解决？7、transformer的位置编码的基底是10000，为什么设置100008、手撕：岛屿的数量。