1、LoRA 微调的原理LoRA 的核心思想是不直接更新预训练模型里的原始大权重，而是在某些线性层旁边增加一个低秩更新分支，用低秩矩阵去近似权重增量。假设原始权重是 W∈Rd×k，全量微调时直接学习ΔW，LoRA 则把它写成：ΔW=BA其中A∈Rr×k，B∈Rd×r ,，(r) 是远小于 (d) 和 (k) 的秩。这样前向计算就变成：h=Wx+ΔWx=Wx+BAx实际里通常还会加缩放项：这样做的本质是认为很多下游任务对大模型权重的更新其实存在低秩结构，不需要真的去学习一个完整的大矩阵。LoRA 的优点是可训练参数少、显存占用低、训练快，而且原模型参数冻结，方便多任务切换和权重管理。2、LoRA...

前言我的速成找实习/春招的经验帖子：链接我的学习后端和agent2手抓的专栏：链接第一类(头部大厂)阿里巴巴(总部)(余杭区/滨江区)：多元电商生态腾讯(分部)(西湖区/拱墅区)：多元互联网服务字节跳动(分部)(余杭区)：短视频及衍生业务百度(分部)(拱墅区)：搜索与AI服务京东(分部)(上城区)：自营电商+物流美团(分部)(萧山区)：本地生活服务网易(总部)(滨江区)：游戏及多元业务华为(企业业务分部)(滨江区)：云计算装备技术服务第二类(细分领域突出)Deepseek(总部)(拱墅区)：深度求索AI菜鸟网络(总部)(余杭区)：智慧物流蚂蚁集团(总部)(西湖区)：金融科技服务阿里云(总部)(...