大模型算法实习面经分享-字节

岗位名称：大语言模型算法面试时长：1h–1.5h自评分：8/10是否下一轮：是模型架构与基础原理目前主流大语言模型在架构设计上有哪些异同点？（追问）Decoder-only 和 Encoder-Decoder 在实际应用场景上有什么区别？介绍一下大语言模型中的注意力机制，多头相比单头注意力有何优势？（追问）如果减少头数会发生什么？是否一定性能下降？什么是大语言模型的涌现能力？目前对该现象的研究有哪些发现？（追问）涌现能力是否和模型规模线性相关？什么是 Embedding？词嵌入和句嵌入有何不同？（追问）Embedding 层是否会参与微调？为什么？大语言模型中的 Tokenization 是如...

给我面没招了，发点面经攒攒人品～1. 实习拷打2. 详细问了项目3. 数据集是怎样做扩充的？4. 为什么要SFT后还要使用DPO进行训练？5. 对于难样本是怎么解决的？6. 如何实现Function call的功能？7. 为什么RAG的效果用正确率来表示？8. RAG的文档是怎么划分的？基于什么规则划分？9. RAG召回冗余的数据怎么解决的？10. 有哪些可以优化RAG的方法？11. Decode-only和encoder-only有什么区别？

1. 你们线上大模型应用的整体架构是怎样的？常见架构就是这几层：用户请求先进入 API 网关，再到业务服务层。业务服务层负责鉴权、限流、Prompt 拼装、会话管理、工具编排。如果有知识库，就先走检索链路；如果要调外部能力，就走工具调用；最后把上下文交给大模型生成结果。生成结果出来后，再做内容过滤、格式化、日志落库、监控上报。核心链路一般是：用户请求 -> 业务编排 -> 检索/工具 -> 模型推理 -> 后处理 -> 返回结果2. 你们怎么做 Prompt 工程？Prompt 不是简单写一句提示词，而是模板化管理。常见做法是把 Prompt 拆成几部分：syst...

昨天和hr用电话想取消面试，但是hr说面评机制已经改了，不需要担心面评，可以走一下流程感受一下面试。想问一下这是真的吗，部门是番茄测开，日常实习