兴业银行长沙分行

第 15 题：LoRA（Low-Rank Adaptation）的数学原理 题目 解释 LoRA（Low-Rank Adaptation）微调的数学原理。 一、动机 全量微调大模型要更新全部参数，显存与算力成本高。LoRA 假设预训练权重在适应新任务时，有效更新是低秩的，因此只学习一个低秩增量，与原权重相加得到适应后的权重，从而大幅减少可训练参数与显存。 二、数学形式 设某层线性变换为 ，。LoRA 不直接改 ，而是增加低秩分解的增量：  其中 ，， 为秩。前向时：   训练：只训练 、， 冻结；参数量从  变为 。 推理：可把  算好存成一张矩阵，等价于单层线性，无额外延迟；或保留  分开算...

吓哭了，明天被面试塞满了

暑期实习投了十几天，能投的都投了，一个面试没有，pdd，快手，小米直接挂，不然一直都泡池子，简历还能怎么改进吗，后端还是太卷了

可能很多学弟学妹们对双选会和宣讲会的区别都不是很清楚，我本科的时候也是这样。先来说一下二者的区别。双选会：一般学校牵头举办，在体育馆或者一个很大的空间，几十家上百家企业一起，每个企业一个摊位。好处：可以一次接触非常多家企业，横向对比。不足：只能大概了解一家公司的概况，因为咨询的学生很多，HR不会详细讲解你目标岗位的详细情况。宣讲会：定向的、只有一家公司的详细讲解，一般会有公司专门负责校招的HR和某个产品线或某个地区业务负责人参与。好处：HR会把企业具体情况、招聘岗位讲的很详细清楚；有很多伴手礼拿；很多企业会线下当场初面，对于我们整体秋招或春招的流程推进作用很大。不足：缺少横向对比的过程，需要比...