今天正式入职了。早上先听了公司的一些规定和规范，HR讲得挺细的。刚坐到工位没一会儿，leader就喊大家去吃饭了。中午在楼下随便吃了一份炒饭，真的贵，北京物价跟我老家比差太多了，一份炒饭就快30，心态有点崩。下午主要是配置环境、拉代码，然后看了一下午代码。大型项目的代码量和结构确实完全不一样，看得有点晕，但也挺有意思。晚上跟leader聊了会儿，问他有没有什么需求可以先上手。他说：“你第一天就想干活啊？这几天没什么特别需要你立刻上的，主要先把代码熟悉熟悉。”他最近在忙代码合并的事，主分支和几个feature分支冲突太多，合起来很麻烦。 感觉大型项目节奏就是这样，先稳住，再慢慢来。第一天就这样过...

1、LoRA 微调的原理LoRA 的核心思想是不直接更新预训练模型里的原始大权重，而是在某些线性层旁边增加一个低秩更新分支，用低秩矩阵去近似权重增量。假设原始权重是 W∈Rd×k，全量微调时直接学习ΔW，LoRA 则把它写成：ΔW=BA其中A∈Rr×k，B∈Rd×r ,，(r) 是远小于 (d) 和 (k) 的秩。这样前向计算就变成：h=Wx+ΔWx=Wx+BAx实际里通常还会加缩放项：这样做的本质是认为很多下游任务对大模型权重的更新其实存在低秩结构，不需要真的去学习一个完整的大矩阵。LoRA 的优点是可训练参数少、显存占用低、训练快，而且原模型参数冻结，方便多任务切换和权重管理。2、LoRA...