大模型算法实习面经-字节跳动

1. 文章分类大概有多少文章？文章量一般从三个口径说：训练集、验证集、线上累计处理量。实际项目里常见是几万到几十万篇，线上累计处理量会更大。真正影响效果的不只是数量，还有类别是否均衡、长短文本分布是否正常。2. 怎么做的这个分类？怎么实现的呀？就是文本分类标准流程：先做文本清洗，再做标签体系，再做编码表示，最后接分类模型输出结果。如果用的是 BERT，就是文本经过 tokenizer 编码，输入 BERT，取 [CLS] 或池化向量，接线性层做分类。单标签分类一般用 softmax，多标签分类一般用 sigmoid。 from transformers import BertTokenizer...

给我面没招了，发点面经攒攒人品～1. 实习拷打2. 详细问了项目3. 数据集是怎样做扩充的？4. 为什么要SFT后还要使用DPO进行训练？5. 对于难样本是怎么解决的？6. 如何实现Function call的功能？7. 为什么RAG的效果用正确率来表示？8. RAG的文档是怎么划分的？基于什么规则划分？9. RAG召回冗余的数据怎么解决的？10. 有哪些可以优化RAG的方法？11. Decode-only和encoder-only有什么区别？

1. 你们线上大模型应用的整体架构是怎样的？常见架构就是这几层：用户请求先进入 API 网关，再到业务服务层。业务服务层负责鉴权、限流、Prompt 拼装、会话管理、工具编排。如果有知识库，就先走检索链路；如果要调外部能力，就走工具调用；最后把上下文交给大模型生成结果。生成结果出来后，再做内容过滤、格式化、日志落库、监控上报。核心链路一般是：用户请求 -> 业务编排 -> 检索/工具 -> 模型推理 -> 后处理 -> 返回结果2. 你们怎么做 Prompt 工程？Prompt 不是简单写一句提示词，而是模板化管理。常见做法是把 Prompt 拆成几部分：syst...