字节

今天老师为大家梳理了字节算法岗关于大模型Rag的面试题，供各位同学参考。1️⃣ LORA 原理：解释 LORA(Low-RankAdaptation)的核心思想，如何通过低秩矩阵实现参数高效微调?数学形式如何表达?2️⃣Self-Attention机制：自注意力机制中 O/K/ 矩阵的作用是什么?如何通过缩放点积计算注意力权重?公式推导并解释Softmax 的意义。3️⃣位置编码：Transformer为何需要位置编码?主流 LLM(如 LLaMA、GPT)使用哪种位置编码(如 ROPE)?相比绝对/相对位置编码有何优势?4️⃣Seq2Seg 模型：Seq2Seq模型的核心组件是什么?Encoder-Decoder结构如何解决长程依赖问题?5️⃣RAG技术：RAG(检索增强生成)的完整链路包含哪些步骤?为什么它能提升生成质量?6️⃣大模型幻觉：大模型产生幻觉的根本原因是什么?7️⃣显存计算：7B 模型在训练和推理时的显存占用如何估算?显存与参数量、批次大小、序列长度的关系是什么?8️⃣实习与论文：详细说明实习中解决的一个技术难点，涉及哪些模型或算法?如何评估效果?9️⃣链表操作：删除链表倒数第 N 个节点的算法思路?如何用双指针法实现?边界条件(如头节点删除)如何处理?📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。    

一面：最长的一集，80分钟，主要是项目+实习自我介绍实习业务详细说说测试数据怎么与线上隔离的接口测试注意哪些地方，接口时延关注吗合格的接口自动化要满足什么接口自动化召回率低什么原因接口自动化落库的数据怎么验证进程和线程区别什么时候用线程，什么时候用进程开发常见状态码python装饰器原理，在哪里用过Java异常有哪些数据库索引介绍下项目的数据库有加索引吗场景题：根据一个id，查相关信息，设计架构视频预览按钮 测试用例手撕：字符串最小字串，满足每个字符都出现不超过k次二面：也是项目+实习。手撕很简单没写出来挂了前端AI自动化怎么做的智能体prompt怎么做的项目里的ES怎么用的项目里的MQ可能有...

各位大佬求帮选！一编：本人没有留南京的打算(荣耀小米均在南京），秋招优先互联网大厂后国企，求佬帮选😷😷😷😷       

4.21Boss投递 4.22约面一面1h（4.25）问题有些记不得了研究方向相关项目项目中使用过的JAVA并发线程池，乐观锁，悲观锁JAVA反射用过吗，举例HashMap的链表具体存储的是什么手撕：aabbbcc->bbbaaabb->aaa结束后面试官说2天内出结果4.28问hr通知已过 约二面二面1h20min(4.29)开始给的压力很大，后面聊了会放松了讲一下自己的优势和项目的优势项目用过其他语言吗 python和java的区别点击网页后续不同层的网络协议项目中接口怎么写spring理解，IOC，AOP，依赖注入相对于IOC的关系Bean的生命周期list,set,map怎...