浪潮云装备(base北京)

坐标阿里巴巴广告部门(阿里妈妈)后端工程研发方向，java、c++、大数据、大模型、agent研发技术栈丰富，总有一款适合你，另外过去几年暑期实习都转正了。我们重点做Agent的应用落地和平台研发，需要较强的编码能力，对多线程、数据库等比较了解，擅长做大模型优化训练的同学注意下别投递错了PS：自己团队招人，速度快服务好，优秀简历速来，私聊我吧！ 可以把简历里个人信息打码私聊给我看下简历，合适的我回捞，没及时回复各位别伤心，还要上班干活Zzzz#牛客AI配图神器#

要求每天至少对话100次🤣现在必须得all in AI了

已拉黑：美团，百度，米哈游已点赞：快手，网易，众安，字节跳动，蚂蚁ttl：3.16投递-3.25 一面-3.30 二面-3.31 hr面-4.2 oc

第 15 题：LoRA（Low-Rank Adaptation）的数学原理 题目 解释 LoRA（Low-Rank Adaptation）微调的数学原理。 一、动机 全量微调大模型要更新全部参数，显存与算力成本高。LoRA 假设预训练权重在适应新任务时，有效更新是低秩的，因此只学习一个低秩增量，与原权重相加得到适应后的权重，从而大幅减少可训练参数与显存。 二、数学形式 设某层线性变换为 ，。LoRA 不直接改 ，而是增加低秩分解的增量：  其中 ，， 为秩。前向时：   训练：只训练 、， 冻结；参数量从  变为 。 推理：可把  算好存成一张矩阵，等价于单层线性，无额外延迟；或保留  分开算...