给我面没招了，发点面经攒攒人品～项目细节拷打八股1.大模型了解多少，强化学习了解什么2.DPO的全称是什么，公式是什么，直接体现在哪里3.与PPO对比归一化方法• 常用的归一化方法有哪些• 讲讲RMSNormAUC• auc的定义• 从样本里随机去掉一些负样本，Auc怎么变优化器• 讲一讲常用的优化器• sgd是什么，Adam相对于sgd改进了什么位置编码• 正余弦位置编码的公式手撕• 计算逆序对数量• 多头自注意力

1、知道 GPT 和 BERT 这种模型的基础框架是怎样的吗BERT 和 GPT 都是基于 Transformer 的预训练模型，但结构和任务目标不一样。BERT 一般采用 Transformer Encoder 堆叠起来的双向编码结构，在预训练时主要做 MLM，也就是随机遮盖一部分 token，让模型根据上下文去恢复被遮掉的词，因此它更适合理解类任务，比如分类、匹配、抽取、检索表示学习。GPT 采用 Transformer Decoder 堆叠起来的单向自回归结构，在预训练时做 next token prediction，也就是根据前面的 token 预测下一个 token，因此它更适合生成...

这场面试整体体验很完美，面试官很好，后面大量的时间在介绍公司和成长规划，最后也是如愿以偿的过了1.自我介绍2.开发语言擅长哪一种，我回答的python2.python中列表和元组的区别3.你经常用python哪个库4.pandas对数据分块的方法5.场景：用pandas独立开发一个异常重置的功能块，你会怎么设计6.数据库查询返回速度较慢，你会怎么优化（常见八股）7.用过哪些bi工具，主要涉及哪些业务模块8.一些实习项目的拷打，数据倾斜之类的面试官介绍公司业务和我需要做的，体验真的蛮好，我有些疑问都耐心解决了，最后也通过了，春招迄今为止收到offer最想去的公司

1. 你做过的后训练项目里，最难解决的问题是什么2. SFT 数据你怎么构造，怎样避免模型被训练“油了”SFT 最大的问题不是量不够，而是数据风格太单一，最后把模型训成一种固定腔调：很会说、很圆滑、但信息密度低。构造数据时我一般会先按任务拆层，比如信息抽取、工具调用、复杂问答、拒答、安全、长文总结、结构化输出，每一层的目标都不一样。然后再做难度分桶，避免模型只见过简单样本。另一个关键点是负面风格清理。很多数据表面上没错，但非常模板化，比如“这是一个非常好的问题，让我们一步一步分析”，这类东西在少量数据里没问题，规模一大就会把模型带偏。所以我会专门清掉这种“高礼貌、低信息”的样本，保留更接近真实...