1. 你做过大模型数据处理的话，预训练数据清洗一般怎么做，去重、去噪、质量过滤分别解决什么问题？预训练数据清洗本质上是在控制“数据量”和“数据质量”之间的平衡。去重主要解决模型反复记忆同一批内容，避免浪费训练 token，也减少 benchmark 污染。去噪主要是过滤乱码、模板页、广告页、低信息密度文本、机器生成垃圾内容，不然模型会学到很差的语言模式。质量过滤更偏向保留高价值内容，比如结构完整、语义通顺、知识密度高、代码块规范或者问答对明确的数据。实际工程里一般不会只靠一个规则，而是多阶段处理：先做规则清洗，再做语言识别、长度过滤、内容打分，最后再结合 dedup 和采样策略。因为预训练效果...

你在leetcode上练的都是死代码能力🤣

小米oc了，但是在犹豫去不去。如果接受的话，小米正职待遇太差了，而且也不是互联网大厂，不确定这段经历对于秋招的背书有多大。算上餐补实习薪资5100，感觉太低了，并且岗位是中台开发，会干一些杂活，而且没有专门的mentor，和纯后端有一定区别。但是如果不接受的话，害怕接下来找不到好的offer，暑期0offer。图一是我简历上的项目和所学知识，图二是JD。实习的岗位不垂直，对秋招帮助大吗，该不该去，去了之后能胜任任务吗？

这份题不是随便凑出来的 100 道，而是从大量面经和题目里 筛出来的高频题。我整理了上百套校招、实习、校招的大模型相关面试题，又结合公开平台上反复出现的问题，把那些 出现次数最多、覆盖岗位最广、面试最容易问到 的内容统一收拢，最后形成这套 大模型常考面试题100道1. Transformer 的整体结构是什么？答：Transformer 最早是 Encoder-Decoder 结构。Encoder 每层主要是多头自注意力和前馈网络，Decoder 每层除了 masked self-attention 和前馈网络，还多了一个 cross-attention，用来关注 Encoder 的输出。不过...