1、LoRA 微调的原理LoRA 的核心思想是不直接更新预训练模型里的原始大权重，而是在某些线性层旁边增加一个低秩更新分支，用低秩矩阵去近似权重增量。假设原始权重是 W∈Rd×k，全量微调时直接学习ΔW，LoRA 则把它写成：ΔW=BA其中A∈Rr×k，B∈Rd×r ,，(r) 是远小于 (d) 和 (k) 的秩。这样前向计算就变成：h=Wx+ΔWx=Wx+BAx实际里通常还会加缩放项：这样做的本质是认为很多下游任务对大模型权重的更新其实存在低秩结构，不需要真的去学习一个完整的大矩阵。LoRA 的优点是可训练参数少、显存占用低、训练快，而且原模型参数冻结，方便多任务切换和权重管理。2、LoRA...

这个写的很垃圾吗

   😅? 

本人bg：25届算法，在MiniMax工作快一年了。从实习转正，到现在参与M2.5等核心模型的迭代，感受还是非常多的。刚好最近很多学弟学妹来问求职和公司的情况，干脆把我的真实经历和观察整理出来，希望能给正在看机会的大家一些参考。一、关于求职：实习是成本最低的试错我一开始不知道自己想去哪，所以我会通过实习来给自己试错。研究生阶段，我攒了4段实习（1家中厂，3家大厂），不过现在看来，这些经历最大的价值不是让简历变好看，而是让我对所谓的大厂“祛魅”了。 有的团队进去才发现，核心业务根本碰不到，天天写周报、对齐、拉通，忙活半天不知道自己在干嘛。所以我觉得，多实习不是为了刷简历，而是用低成本试错，给自己...