1. 你做过大模型数据处理的话，预训练数据清洗一般怎么做，去重、去噪、质量过滤分别解决什么问题？预训练数据清洗本质上是在控制“数据量”和“数据质量”之间的平衡。去重主要解决模型反复记忆同一批内容，避免浪费训练 token，也减少 benchmark 污染。去噪主要是过滤乱码、模板页、广告页、低信息密度文本、机器生成垃圾内容，不然模型会学到很差的语言模式。质量过滤更偏向保留高价值内容，比如结构完整、语义通顺、知识密度高、代码块规范或者问答对明确的数据。实际工程里一般不会只靠一个规则，而是多阶段处理：先做规则清洗，再做语言识别、长度过滤、内容打分，最后再结合 dedup 和采样策略。因为预训练效果...

真没招了，三月才开始准备八股和算法因为没想到不仅大厂笔试过不了小厂也根本鸟我，笔试都不愿意发一个，心里心存侥幸说即使没实习好好磨炼技术再做一两个rag、agent项目去秋招，但是我现在投暑期实习就感受到秋招的寒气了，完全不觉得是金三银四而是铜三铁四😭😭😭，怎么办完全没招了，最近焦虑到学都学不进去每天都在投简历

双非学校， 八股大概看了一遍，该去投中大厂吗，还是继续沉淀再投。

这份题不是随便凑出来的 100 道，而是从大量面经和题目里 筛出来的高频题。我整理了上百套校招、实习、校招的大模型相关面试题，又结合公开平台上反复出现的问题，把那些 出现次数最多、覆盖岗位最广、面试最容易问到 的内容统一收拢，最后形成这套 大模型常考面试题100道1. Transformer 的整体结构是什么？答：Transformer 最早是 Encoder-Decoder 结构。Encoder 每层主要是多头自注意力和前馈网络，Decoder 每层除了 masked self-attention 和前馈网络，还多了一个 cross-attention，用来关注 Encoder 的输出。不过...