韶音音频算法岗实习面经

4.9下午 一面 面完十分钟约二面4.11下午 二面二面流程：1. 自我介绍2. 拷打项目，主要是针对项目细节以及方案距离落地还有哪些需要考虑的地方，四十分钟3. 手撕类似螺旋矩阵感觉面的很好，希望团子给个offer这几天等的太焦虑了4.15 更新 已oc

部门：QQ音乐base地：深圳流程：一面+二面+三面+HR面推进速度：非常快，每一面在一小时内出结果一面 50min自我介绍论文介绍什么是MHAAttention运算公式为什么除以根号dk介绍现有相对位置编码和绝对位置编码的异同点，都有哪些结构RoPE的结构RoPE相比于绝对位置编码的优势是什么？为什么外推性更好？为什么RoPE理论上可以无限外推？RoPE为什么可以利用绝对位置和相对位置的优势？介绍RAG项目（基座模型是什么？几b ？全参微调用了多少卡？数据多大？问答对的形式有图片吗？对RAG的理解是什么？为什么要用RAG？BGE模型的结构什么是LoRA？有个两层神经网络，参数1万*一万，低秩...

面试有点简单，面完直接过了1.自我介绍2.attention的计算公式追问：为什么除根号dk3.bert和gpt了解吗(only encoder/decoder)4.lora原理5.模型蒸馏6.用过哪些微调7.BN和LN的区别8.过拟合怎么处理9.数据不平衡怎么处理

理想：RAG 的完美愿景 在大语言模型（LLM）的浪潮中，检索增强生成（Retrieval-Augmented Generation, RAG）被寄予厚望，作为 LLM 应用落地的关键技术范式之一，它的核心思想很简单： “让大模型在生成答案时，先检索外部知识库，确保回答既准确又新鲜。” 理论上，RAG 能解决大语言模型（LLM）的三大痛点： 知识固化：LLM 依赖训练数据，无法自动更新知识（如 GPT-4 不知道 2024 年后的新闻），导致时效性差、专业领域知识不足，而 RAG 通过连接外部知识库，可以随时引入新信息。 幻觉问题：LLM 可能编造虚假信息，而 RAG 为回答提供证据、增强生...