会议室里安静了几秒。 "你调研过？"架构师抬起头，看向坐在角落的我。 我点点头，打开笔记本："上周看到需求文档后，我花了些时间做了个对比分析。" 那是实习第五周的周会，团队在讨论一个新项目的技术选型。会议已经进行了半小时，几位资深工程师各执一词，有人倾向用成熟稳定的方案，有人想尝试新技术。争论陷入僵局时，我在群里发了一句："我这边有份调研报告，要不要看看？" 导师在会上直接说："那让他讲讲。" 我其实没想到会在这种场合发言。入职前几周，我一直在熟悉业务代码，跟着导师做一些模块开发。但我发现，真正让人成长的，不是等着...

25届的同学们，毕业之后工作都好吗

看来得重新踏上征程了。后悔之前oc之后没有走其他的流程。

1、LoRA 微调的原理LoRA 的核心思想是不直接更新预训练模型里的原始大权重，而是在某些线性层旁边增加一个低秩更新分支，用低秩矩阵去近似权重增量。假设原始权重是 W∈Rd×k，全量微调时直接学习ΔW，LoRA 则把它写成：ΔW=BA其中A∈Rr×k，B∈Rd×r ,，(r) 是远小于 (d) 和 (k) 的秩。这样前向计算就变成：h=Wx+ΔWx=Wx+BAx实际里通常还会加缩放项：这样做的本质是认为很多下游任务对大模型权重的更新其实存在低秩结构，不需要真的去学习一个完整的大矩阵。LoRA 的优点是可训练参数少、显存占用低、训练快，而且原模型参数冻结，方便多任务切换和权重管理。2、LoRA...