字节内推

1. 你做过大模型数据处理的话，预训练数据清洗一般怎么做，去重、去噪、质量过滤分别解决什么问题？预训练数据清洗本质上是在控制“数据量”和“数据质量”之间的平衡。去重主要解决模型反复记忆同一批内容，避免浪费训练 token，也减少 benchmark 污染。去噪主要是过滤乱码、模板页、广告页、低信息密度文本、机器生成垃圾内容，不然模型会学到很差的语言模式。质量过滤更偏向保留高价值内容，比如结构完整、语义通顺、知识密度高、代码块规范或者问答对明确的数据。实际工程里一般不会只靠一个规则，而是多阶段处理：先做规则清洗，再做语言识别、长度过滤、内容打分，最后再结合 dedup 和采样策略。因为预训练效果...

学院本真的没希望了吗😭秋招0offer，投了也石沉大海，求各位佬指点一下😭

真没招了，三月才开始准备八股和算法因为没想到不仅大厂笔试过不了小厂也根本鸟我，笔试都不愿意发一个，心里心存侥幸说即使没实习好好磨炼技术再做一两个rag、agent项目去秋招，但是我现在投暑期实习就感受到秋招的寒气了，完全不觉得是金三银四而是铜三铁四😭😭😭，怎么办完全没招了，最近焦虑到学都学不进去每天都在投简历

研发卷，10道选择题 + 3道编程题，选择题基本上都是AI/大模型相关：RAG、大模型等等，最近做笔试基本上都是AI相关的了， 大家还是提前多刷刷AI的知识吧 编程题： T1. 风不吹雨 操作 1 是把  变成 ，最多用  次；操作 2 是减 ，最多用  次。每个位置每种操作最多做一次，两种可以同时做，求最小元素和。 一个比较显然的结论：如果同时做两种操作，先除后减一定不差于先减后除（因为除法会把减掉的量也砍半）。所以同时做两种操作的减少量就是 ，其中 。 然后注意到操作 2 对每个元素的减少量都是 ，跟选哪个元素无关。所以操作 2 直接贡献  的减少量。操作 1 的减少量取决于选哪些元素，贪...