1、LoRA 微调的原理LoRA 的核心思想是不直接更新预训练模型里的原始大权重，而是在某些线性层旁边增加一个低秩更新分支，用低秩矩阵去近似权重增量。假设原始权重是 W∈Rd×k，全量微调时直接学习ΔW，LoRA 则把它写成：ΔW=BA其中A∈Rr×k，B∈Rd×r ,，(r) 是远小于 (d) 和 (k) 的秩。这样前向计算就变成：h=Wx+ΔWx=Wx+BAx实际里通常还会加缩放项：这样做的本质是认为很多下游任务对大模型权重的更新其实存在低秩结构，不需要真的去学习一个完整的大矩阵。LoRA 的优点是可训练参数少、显存占用低、训练快，而且原模型参数冻结，方便多任务切换和权重管理。2、LoRA...

因为考研没秋招，现在怎么都找不到合适的工作。。。

双非学校， 八股大概看了一遍，该去投中大厂吗，还是继续沉淀再投。

算法：最长递增子序列（没写出来），换了二叉树层序遍历进程和线程的区别讲一下堆和栈redis的内存淘汰redis的过期删除策略mysql的深分页问题怎么解决，手写SQL第一个项目怎么设计的，想法从哪里来的用户口语化的输入如果在Rag里面检索不到怎么办点赞功能怎么设计的set出现大Key怎么进行解决平时使用哪些ai工具忘记录音了，只记得这些了。目前是约了二面#牛客AI配图神器#