也大大小小面了很多内部正在搞AI的公司，给大家分享一下我的面试题库！ 第一章：RAG 系统 Q1: 请解释 RAG 的工作原理。与直接对 LLM 进行微调相比，RAG 主要解决了什么问题？ RAG（Retrieval-Augmented Generation）的核心是"检索+生成"两阶段：先从外部知识库中检索与用户问题相关的文档片段，再将这些片段作为上下文拼入 prompt，让 LLM 基于检索到的信息生成回答。相比微调，RAG 的优势在于： ①知识可实时更新，不需要重新训练模型； ②可追溯来源，减少幻觉且便于审计； ③成本低，不需要 GPU 资源做训练； ④领域迁移方便，...

上周组里招人，我面了六个候选人，回来跟同事吃饭的时候聊起一个让我挺感慨的现象。前三个候选人，算法题写得都不错。第一道二分查找，五分钟之内给出解法，边界条件也处理得干净。第二道动态规划，状态转移方程写对了，空间复杂度也优化了一版。我翻他们的简历，力扣刷题量都在300以上。后三个呢，就有点参差不齐了。有的边界条件没处理好，有的直接说这道题没刷过能不能换个思路讲讲。其中有一个女生，我印象特别深——她拿到题之后没有马上写，而是先问我：“面试官，我能先跟你确认一下我对题目的理解吗？”然后她把自己的思路讲了一遍，虽然最后代码写得不是最优解，但整个沟通过程非常顺畅。这个女生的代码不是最优的，但当我问她“如果这里是线上环境，你会怎么设计’的时候，她给我讲了一套完整的方案——异常怎么处理、日志怎么打、怎么平滑发布。她对这是之前在实习的时候踩过的坑。”我在想LeetCode到底在筛选什么？我自己的经历可能有点代表性。我当年校招的时候，也是刷了三百多道题才敢去面试。那时候大家都刷，你不刷就过不了笔试关。后来工作了，前三年基本没再打开过力扣。真正干活的时候，没人让你写反转链表，也没人让你手撕红黑树。更多的是：这个接口为什么慢了、那个服务为什么OOM了、线上数据对不上了得排查一下。所以后来我当面试官，慢慢调整了自己的评判标准。算法题我还会出，但目的变了。我出算法题，不是想看你能不能背出最优解。而是想看你拿到一个陌生问题的时候，是怎么思考的。你会先理清题意吗？你会主动问边界条件吗？你想不出来的时候会怎么办？你写出来的代码，变量命名乱不乱、结构清不清楚？这些才是工作中真正用得到的能力。LeetCode是一个工具，不是目的。它帮你熟悉数据结构和常见算法思路，这没问题。但如果你刷了三百道题，却说不清楚自己的项目解决了什么问题、遇到了什么困难、你是怎么解决的，那这三百道题可能真的白刷了。所以还要不要刷LeetCode？要刷，但别只刷题。刷题的时候，多问自己几个为什么：为什么用这个数据结构？为什么这个解法比那个好？如果换个条件，解法还成立吗？把刷题当成锻炼思维的方式，而不是背答案的任务。毕竟面试官想看到的，从来不是一台背题机器，而是一个能解决问题的人。

有点搞笑了哈哈哈😂

1. 什么是 LoRA？LoRA 全称是 Low-Rank Adaptation，核心思想是在微调大模型时不直接更新原始大权重矩阵，而是冻结预训练权重，只额外学习两个低秩矩阵，用这两个小矩阵的乘积去近似原权重的增量。原来如果某层权重是： W ∈ R^(d×k) LoRA 不直接学习 ΔW 的完整矩阵，而是写成： ΔW = B A A ∈ R^(r×k), B ∈ R^(d×r), 且 r << min(d, k) 最终前向变成： h = W x + ΔW x = W x + B A x 这样训练参数量会大幅下降。2. LoRA 的思路是什么？LoRA 的基本假设是：大模型在迁移到下...