1、LoRA 微调的原理LoRA 的核心思想是不直接更新预训练模型里的原始大权重，而是在某些线性层旁边增加一个低秩更新分支，用低秩矩阵去近似权重增量。假设原始权重是 W∈Rd×k，全量微调时直接学习ΔW，LoRA 则把它写成：ΔW=BA其中A∈Rr×k，B∈Rd×r ,，(r) 是远小于 (d) 和 (k) 的秩。这样前向计算就变成：h=Wx+ΔWx=Wx+BAx实际里通常还会加缩放项：这样做的本质是认为很多下游任务对大模型权重的更新其实存在低秩结构，不需要真的去学习一个完整的大矩阵。LoRA 的优点是可训练参数少、显存占用低、训练快，而且原模型参数冻结，方便多任务切换和权重管理。2、LoRA...

你在leetcode上练的都是死代码能力🤣

27届Java实习

双非，Java后端，26届，春招基本结束了，拿了个小厂offer。把踩过的坑总结一下，希望后来人别重蹈。 坑1：网申填表没用工具，全靠手动 前期完全手动填每家的网申表，有的表单巨长，什么父母信息、家庭住址、在校成绩单每门课都要填，一张表填40分钟都有。 后来朋友说牛客有个网申助手插件，信息录进去，各家官网表单自动填。装完之后悔恨了很久，早用能省十几个小时的体力活。现在还在投的同学，直接搜"牛客网申助手"装一下，免费的。 坑2：投递开始太晚 2月中才开始大规模投，其实1月就有公司陆续开放了，等到三月再投，很多坑位已经满了，有些公司甚至已经停止接简历。 坑3：只盯大厂，没有保底...