1. 你做过大模型数据处理的话，预训练数据清洗一般怎么做，去重、去噪、质量过滤分别解决什么问题？预训练数据清洗本质上是在控制“数据量”和“数据质量”之间的平衡。去重主要解决模型反复记忆同一批内容，避免浪费训练 token，也减少 benchmark 污染。去噪主要是过滤乱码、模板页、广告页、低信息密度文本、机器生成垃圾内容，不然模型会学到很差的语言模式。质量过滤更偏向保留高价值内容，比如结构完整、语义通顺、知识密度高、代码块规范或者问答对明确的数据。实际工程里一般不会只靠一个规则，而是多阶段处理：先做规则清洗，再做语言识别、长度过滤、内容打分，最后再结合 dedup 和采样策略。因为预训练效果...

整体面试还是不错的，但是没后续了，不知道是哪里出了问题1. 项目拷打2. 介绍Attention，从数学角度解释一下为啥注意除以\sqrt{d_k}？3. Agent多轮对话中有哪些难点4. SFT数据集构建策略5. 介绍DPO、GRPO、PPO区别6. 如果评估RAG，评估RAG是否work7. 说一下大模型全参数微调的显存计算？说一下SMoE怎么推理的？相比于稠密模型有什么优点？8. 最近看了什么论文和技术报告？推荐算法和大模型有什么地方可以结合呢？9. 手撕：搜索排序数组

1. Agent 的架构设计一个完整的 Agent，一般不是单独一个大模型就能跑起来，核心会拆成几层。最上面是任务入口，负责接收用户问题和上下文；中间是决策层，负责意图识别、任务拆解、规划和工具选择；下面是执行层，真正去调工具、查知识库、访问服务；最后是记忆和状态层，维护多轮上下文、历史执行结果和中间变量。如果做得再工程化一点，通常还会加一个校验层。因为模型规划出来的步骤不一定总是对的，工具参数也可能填错，所以在执行前后都要做检查，比如参数合法性校验、工具返回结构校验、结果一致性校验。Agent 真正难的地方不是“能不能想”，而是“想完之后能不能稳定执行”。2. RAG 的检索如何实现RAG ...

投递淘天前，boss上看了我的简历，然后邀请我投递他们部门，发了内推邮件过来让我填信息，还打电话跟我说赶紧投递，有什么问题可以问他，简历是他这过的，他可以给我过的，直接投就行。结果一志愿投完了给我挂了，问他就说简历初筛没过，不好意思，我又问他简历是你筛的吗？他说是的，我也不知道该说啥了