1、LoRA 微调的原理LoRA 的核心思想是不直接更新预训练模型里的原始大权重，而是在某些线性层旁边增加一个低秩更新分支，用低秩矩阵去近似权重增量。假设原始权重是 W∈Rd×k，全量微调时直接学习ΔW，LoRA 则把它写成：ΔW=BA其中A∈Rr×k，B∈Rd×r ,，(r) 是远小于 (d) 和 (k) 的秩。这样前向计算就变成：h=Wx+ΔWx=Wx+BAx实际里通常还会加缩放项：这样做的本质是认为很多下游任务对大模型权重的更新其实存在低秩结构，不需要真的去学习一个完整的大矩阵。LoRA 的优点是可训练参数少、显存占用低、训练快，而且原模型参数冻结，方便多任务切换和权重管理。2、LoRA...

算法才刚开始，有希望通过吗😭

这种要去吗？

小马不让泄题,而且他们的题目应该是自己出的,所以这里只讲一讲大致流程.自我介绍询问项目(找一个自己觉得做的最好的项目,问几个问题,主要是业务层面的,不太涉及底层知识,飞速过一遍就完了)然后是C++八股,都很简单,只是我不会www,面试官一直在说"小问题""不重要",人超级好的.八股开始:07:38,八股结束:17:28,十分钟左右过一下就结束了.编程让写了一个哈希表的题,分块哈希表,有点恶心,刚开始还读假题了,写了一个相对暴力的做法,在面试官的提醒下口胡了正确的解法(正确做法复杂度是O(mlogn)).吹水时间:我看你的简历是偏互联网的方向,为什么要投智...