题解 | #没有重复项数字的全排列#

也大大小小面了很多内部正在搞AI的公司，给大家分享一下我的面试题库！ 第一章：RAG 系统 Q1: 请解释 RAG 的工作原理。与直接对 LLM 进行微调相比，RAG 主要解决了什么问题？ RAG（Retrieval-Augmented Generation）的核心是"检索+生成"两阶段：先从外部知识库中检索与用户问题相关的文档片段，再将这些片段作为上下文拼入 prompt，让 LLM 基于检索到的信息生成回答。相比微调，RAG 的优势在于： ①知识可实时更新，不需要重新训练模型； ②可追溯来源，减少幻觉且便于审计； ③成本低，不需要 GPU 资源做训练； ④领域迁移方便，...

发70个邮件让我完善简历，我还以为被网暴了。说的就是你慧策，发邮箱让参加宣讲会，说参加完后就给安排面试。技术岗上来来了一句：只要92或双非ACM银牌，66666。说双非本只能投销售类，后期能转岗（虽然但是就你小子公司的hr已读且回复，那有毛用），92才不去你们那破公司，双非本就和有案底没区别。———4.21更新贵公司的高级员工您来私信骂我也没用哈，风评不好谁的问题谁自己心里清楚，有这时间建议提升自己，完善公司制度，而不是来骂我这个连入场券都没有的破学院本

就不投

第 15 题：LoRA（Low-Rank Adaptation）的数学原理 题目 解释 LoRA（Low-Rank Adaptation）微调的数学原理。 一、动机 全量微调大模型要更新全部参数，显存与算力成本高。LoRA 假设预训练权重在适应新任务时，有效更新是低秩的，因此只学习一个低秩增量，与原权重相加得到适应后的权重，从而大幅减少可训练参数与显存。 二、数学形式 设某层线性变换为 ，。LoRA 不直接改 ，而是增加低秩分解的增量：  其中 ，， 为秩。前向时：   训练：只训练 、， 冻结；参数量从  变为 。 推理：可把  算好存成一张矩阵，等价于单层线性，无额外延迟；或保留  分开算...