TPLINK

1. 你做过大模型数据处理的话，预训练数据清洗一般怎么做，去重、去噪、质量过滤分别解决什么问题？预训练数据清洗本质上是在控制“数据量”和“数据质量”之间的平衡。去重主要解决模型反复记忆同一批内容，避免浪费训练 token，也减少 benchmark 污染。去噪主要是过滤乱码、模板页、广告页、低信息密度文本、机器生成垃圾内容，不然模型会学到很差的语言模式。质量过滤更偏向保留高价值内容，比如结构完整、语义通顺、知识密度高、代码块规范或者问答对明确的数据。实际工程里一般不会只靠一个规则，而是多阶段处理：先做规则清洗，再做语言识别、长度过滤、内容打分，最后再结合 dedup 和采样策略。因为预训练效果...

简历如下，也是改了不下十版了三月初开始投递，到现在感觉投递了有个1500家了（实习，全职）面了10家左右的样子（都是线上的，线下的我一律当做刷kpi没接，现在感觉线上线下都是刷KPI的），笔试倒是做了不少，收到了两份实习offer都拒绝了（一个140/天+外地，一个120/天本地初创）最近也不知道投啥了，想着春招实习两手抓，但是投递的很多岗位有要求1-3年经验，投出去也是石沉大海杳无音信，偶尔有几个回复，然后就是笔试面试，再无后续慢慢的也有点蕉绿起来了😭😭还有课设，论文乱七八糟的当时还选择了考研，找学长问考研经验，学长第一句话就是不建议考研，当时还不以为然，现在想想……

因为考研没秋招，现在怎么都找不到合适的工作。。。

1、讲讲什么是 RAGRAG 是 Retrieval-Augmented Generation，也就是检索增强生成。它的核心思想不是只靠大模型参数里记住的知识回答问题，而是在回答之前，先去外部知识库里检索和当前问题相关的内容，再把检索结果作为上下文交给模型生成答案。完整流程一般分两部分。离线侧先做文档接入、清洗、切片、向量化和索引构建，把知识变成可检索的形式。在线侧收到用户问题后，先做 query 改写或纠错，再去知识库召回相关片段，必要时做 rerank 重排，最后把用户问题和证据一起送给模型生成。RAG 的价值主要有三个：让模型获得训练时没有的外部知识让知识更新不依赖重新训练模型让回答更容...