1、LoRA 微调的原理LoRA 的核心思想是不直接更新预训练模型里的原始大权重，而是在某些线性层旁边增加一个低秩更新分支，用低秩矩阵去近似权重增量。假设原始权重是 W∈Rd×k，全量微调时直接学习ΔW，LoRA 则把它写成：ΔW=BA其中A∈Rr×k，B∈Rd×r ,，(r) 是远小于 (d) 和 (k) 的秩。这样前向计算就变成：h=Wx+ΔWx=Wx+BAx实际里通常还会加缩放项：这样做的本质是认为很多下游任务对大模型权重的更新其实存在低秩结构，不需要真的去学习一个完整的大矩阵。LoRA 的优点是可训练参数少、显存占用低、训练快，而且原模型参数冻结，方便多任务切换和权重管理。2、LoRA...

我选正常，习惯了感觉在实习里面真的很难说一下子干啥很核心的活，大家都是先把次一点的活放给你，然后慢慢的给你更核心的活，你把下一个阶段的工作干好了，才会拿到更好的活。

敲完最后一行代码注释，把今天改好的版本提交到Git仓库，我靠在椅背上，拉开一罐冰可乐，灌了一大口，气泡冲得人脑子一麻，爽得不行。今天是我来这家工业自动化公司做嵌入式开发实习的第35天，也是我入职以来，第一次独立完成的功能模块，顺利通过了测试组的验证，没有打回，没有致命bug，mentor在部门群里@我，说了句“干得不错”。而就在一个月前，我还是个连公司开发环境都搭不明白，站在mentor工位旁，连问问题都要在心里打三遍草稿的纯纯菜鸡。拿到实习offer的时候，我在宿舍和哥们吹了半宿的牛，说终于能进正经企业干技术了，结果入职第一天就被浇了盆冷水。mentor给我发了公司的开发文档和环境配置教程，...