1. 你做过大模型数据处理的话，预训练数据清洗一般怎么做，去重、去噪、质量过滤分别解决什么问题？预训练数据清洗本质上是在控制“数据量”和“数据质量”之间的平衡。去重主要解决模型反复记忆同一批内容，避免浪费训练 token，也减少 benchmark 污染。去噪主要是过滤乱码、模板页、广告页、低信息密度文本、机器生成垃圾内容，不然模型会学到很差的语言模式。质量过滤更偏向保留高价值内容，比如结构完整、语义通顺、知识密度高、代码块规范或者问答对明确的数据。实际工程里一般不会只靠一个规则，而是多阶段处理：先做规则清洗，再做语言识别、长度过滤、内容打分，最后再结合 dedup 和采样策略。因为预训练效果...

双非一本，八股刚开始，这个简历能找到实习吗。。。

今天周一休息，突发奇想写一篇阶段总结。如题，我已经去了一个和Java彻底毫无关联的行业。曾经我以为自己能在计算机行业发光发热，没想到刚入行一年多就当了逃兵。从最开始的热爱到现在一看到代码就厌恶，不知道自己经历了什么。所以我去干什么了？答案是：在成都当了租房销售。上班那会压力大了就念叨着去干租房中介，但是一直下不去这个决心，想着自己学了四年多的计算机知识，终究还是不甘心。终于在某一天准备八股文的时候，看着无数篇和工作内容关系不大的理论知识，那一刻下定决心，决定尝试一下销售行业，也算是给自己一个交代。后面阴差阳错的投了成都自如去当租房管家，没想到面试很顺利，在当天一百多个面试的人里面，我成为了为数不多通过的几个幸运儿之一。目前已经培训通过，正式入职，也开了单，也有压力但是每天过得很开心，真心喜欢那种和人交流的感觉，哪怕是最后没有选择找我租房。说这些也是想告诉那些大三，大四正在找Java实习而焦虑的同学：你们现在还年轻，选择很多，容错率也很高，可以尽情去尝试自己喜欢的行业和工作。不用因为某一次的面试没通过或者简历石沉大海而焦虑，更不用因为身边人都在挤编程的独木桥就强迫自己跟风。也算是自己的碎碎念吧，也希望自己能在新的领域取得一点小成就。也祝牛油工作顺利!

网易游戏（互娱）2027届实习生项目招聘启动 超高实习转正率、超多岗位HC、多项目方向直招、入职时间灵活可选，网易互娱等你加入 https://game.campus.163.com/m/position/30?st=ZTgzMmQyNWQtM2QyYi00MDI2LWEzZjQtMWM2YWMwZWZhNGEy