面试字节大模型(LLMs)RAG面被问麻了~

  1. LORA 原理:解释 LORA(Low-RankAdaptation)的核心思想,如何通过低秩矩阵实现参数高效微调?数学形式如何表达?
  2. Self-Attention机制:自注意力机制中 O/K/ 矩阵的作用是什么?如何通过缩放点积计算注意力权重?公式推导并解释Softmax 的意义。
  3. 位置编码:Transformer为何需要位置编码?主流 LLM(如 LLaMA、GPT)使用哪种位置编码(如 ROPE)?相比绝对/相对位置编码有何优势?
  4. Seq2Seg 模型:Seq2Seq模型的核心组件是什么?Encoder-Decoder结构如何解决长程依赖问题?
  5. RAG技术:RAG(检索增强生成)的完整链路包含哪些步骤?为什么它能提升生成质量?
  6. 大模型幻觉:大模型产生幻觉的根本原因是什么?
  7. 显存计算:7B 模型在训练和推理时的显存占用如何估算?显存与参数量、批次大小、序列长度的关系是什么?
  8. 实习与论文:详细说明实习中解决的一个技术难点,涉及哪些模型或算法?如何评估效果?
  9. 链表操作:删除链表倒数第 N 个节点的算法思路?如何用双指针法实现?边界条件(如头节点删除)如何处理?

#RAG##面试##AI##大模型#
全部评论
ttttt
1 回复 分享
发布于 06-11 14:47 广东
ttttt
1 回复 分享
发布于 05-15 13:52 浙江
tttt
1 回复 分享
发布于 05-14 16:18 北京
面试题当然可以开源给大家 后台T一下
1 回复 分享
发布于 05-09 17:24 湖南
ttttt
点赞 回复 分享
发布于 10-22 15:23 浙江
ttt
点赞 回复 分享
发布于 09-06 19:11 湖北
ttt
点赞 回复 分享
发布于 08-11 10:15 湖北
ttttt
点赞 回复 分享
发布于 07-06 22:36 北京
ttt
点赞 回复 分享
发布于 06-20 21:34 江苏
ttttt
点赞 回复 分享
发布于 06-08 12:16 江苏
ttttt
点赞 回复 分享
发布于 06-04 19:11 北京
tttt
点赞 回复 分享
发布于 05-30 17:42 北京
111
点赞 回复 分享
发布于 05-29 16:14 北京
ttt
点赞 回复 分享
发布于 05-28 13:02 北京
ttt',谢谢大佬
点赞 回复 分享
发布于 05-26 17:13 湖北
ttttt
点赞 回复 分享
发布于 05-25 11:36 广东
tttt
点赞 回复 分享
发布于 05-23 16:48 山东
ttttt
点赞 回复 分享
发布于 05-22 18:17 广东
ttt
点赞 回复 分享
发布于 05-22 17:08 广东
ttt
点赞 回复 分享
发布于 05-21 17:06 香港

相关推荐

12-19 02:15
门头沟学院 C++
1. 实习介绍2. 两段开源经历拷打,主要聊开发过程遇到的事,技术涉及较少,虽然也没什么技术,估计就是确认一下是本人干的。3. 面试官介绍自己部门不是搞数据库内核的,询问真想来吗,给面试官给予了肯定的回答。4. 开发习惯闲聊,看不看火焰图,跨语言的benchmark怎么测的巴拉巴拉。5. 正式开始拷打,汗流浃背了。简历上项目就是常规15445+tinykv,遇到一个也都做过的面试官相当正常。6. 15445 lru-k算法、crabbing 协议(还包括读写锁细节,楼主都快记不得了,头一次有面试官问这个)。7. ACID 含义(楼主顺便聊了一下CAP的C跟ACID的C区别,直接预判面试官)8. 15445 三种隔离级别(RU, RC, RR,这块楼主早忘记了,所以回答的是mysql和pg的实现细节,参考:https://gg2002.github.io/2025/03/16/mysql-latch,顺便扯了几嘴mysql为啥会有表级锁和binlog,因为mysql是一个分离式的架构巴拉巴拉)9. tinykv拷打,multi raft必要性,项目思想。10. 分布式事务Percolator跟寻常单体数据库事务的差别(楼主大败而归,说到3列,但是忘记怎么具体地写这3列)11. raft全流程介绍(leaderelection+logreplication,楼主顺便加了点行业现状试图展示知识面)12. raft脑裂问题,prevote优化介绍13. raft的Leader Lease和ReadIndex优化(更是大败而归,头一次有面试官问这个,早就忘记了,扯了几嘴思想草草而过)14. 面试官询问tinysql,楼主没做过,但楼主打过ob数据库比赛,说那个比赛sql写的多,再次跟面试官闲聊一阵15. 广告场景题,问楼主广告曝光log和点击log哪个存kv好些,楼主说点击log少些,存点击,面试官说错,然后解释16. 算法题,线程安全的LRU
点赞 评论 收藏
分享
评论
6
77
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务