今天老师为大家梳理了字节算法岗关于大模型Rag的面试题，供各位同学参考。1️⃣ LORA 原理：解释 LORA(Low-RankAdaptation)的核心思想，如何通过低秩矩阵实现参数高效微调?数学形式如何表达?2️⃣Self-Attention机制：自注意力机制中 O/K/ 矩阵的作用是什么?如何通过缩放点积计算注意力权重?公式推导并解释Softmax 的意义。3️⃣位置编码：Transformer为何需要位置编码?主流 LLM(如 LLaMA、GPT)使用哪种位置编码(如 ROPE)?相比绝对/相对位置编码有何优势?4️⃣Seq2Seg 模型：Seq2Seq模型的核心组件是什么?Encoder-Decoder结构如何解决长程依赖问题?5️⃣RAG技术：RAG(检索增强生成)的完整链路包含哪些步骤?为什么它能提升生成质量?6️⃣大模型幻觉：大模型产生幻觉的根本原因是什么?7️⃣显存计算：7B 模型在训练和推理时的显存占用如何估算?显存与参数量、批次大小、序列长度的关系是什么?8️⃣实习与论文：详细说明实习中解决的一个技术难点，涉及哪些模型或算法?如何评估效果?9️⃣链表操作：删除链表倒数第 N 个节点的算法思路?如何用双指针法实现?边界条件(如头节点删除)如何处理?📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。    

给点经验 印象中的进度：6.14夜里投递 6.15中午电话沟通约面6.16面试（一个小时收到口头offer电话）6.20正式发offer 6.21入职 得物面经（其实没什么面经）因为得物岗位很多： 1.自我介绍的时候在在jd上贴合匹配度 2.表示出自信和想去的态度（因为毕竟现在实习生鸽公司的现象也很多，你在用你摇摆的态度去面试，其实mentor也会用这种态度对你） 3.对自己的简历要熟悉（因为确实会深挖一下） 投递Tips： 1.今年暑假真的很卷。可以适当降低自己的预期 2.投递一定要看哪家公司最近在招人！看最近，而不是看到什么岗位投什么。这样查看率会比较高（我感觉基本在***我的简历被查看的...

Timeline： 4.10 投递4.15 一面 当天约二面4.19 二面 当天约三面4.25 三面发一下timeline攒攒运气！

ok，那么正式开坑吧，个人而言因为Java实在竞争太激烈，（在月薪3k的小厂，有十几个人去面试竞争，甚至有个天津大学的985硕士和我抢饭碗，我决定直接跳车,不卷了）所以投入大模型的学习之中。那么目标自然是做agent开发或者大模型开发了，这里很多人会问，现在去找大模型好找吗？我明确的说，我不知道，但我要all in，因为大模型工资实习工资比java开发更高，而且它更新，这是为什么我要学它。然后很多人就是说这个东西是不是现在没有什么成体系的学习资料，我明确的说，是的，以我自身就是纯按照兴趣+boss招聘信息去学，因为很多公司自己也没整明白，有非常多小公司初创公司招这个，竞争激烈程度大概是56个人...