1、LoRA 微调的原理LoRA 的核心思想是不直接更新预训练模型里的原始大权重，而是在某些线性层旁边增加一个低秩更新分支，用低秩矩阵去近似权重增量。假设原始权重是 W∈Rd×k，全量微调时直接学习ΔW，LoRA 则把它写成：ΔW=BA其中A∈Rr×k，B∈Rd×r ,，(r) 是远小于 (d) 和 (k) 的秩。这样前向计算就变成：h=Wx+ΔWx=Wx+BAx实际里通常还会加缩放项：这样做的本质是认为很多下游任务对大模型权重的更新其实存在低秩结构，不需要真的去学习一个完整的大矩阵。LoRA 的优点是可训练参数少、显存占用低、训练快，而且原模型参数冻结，方便多任务切换和权重管理。2、LoRA...

现在AI这么恐怖，毕业26，能干到30吗？暑期实习也找不到，感觉快进斩杀线了啊

211，Java后端，26届春招。字节二面刚结束，记一下。 一面过了之后等了6天才约到二面，比我预期的久。 考察内容： 项目深挖：我做的分布式缓存项目，问了一致性哈希实现细节，扩缩容时数据迁移怎么处理，追问了脑裂场景下怎么保证一致性。 并发：ThreadLocal原理，内存泄漏是什么场景触发的，怎么解决。 网络：TCP三次握手为什么不是两次，TIME_WAIT状态为什么要等2MSL。 场景：设计秒杀系统，限流方案怎么选，令牌桶和漏桶的区别。 算法：K个一组翻转链表（LC 25），要求不用递归，手写。 整体40分钟，比一面问得细很多，项目没深入做的比较难撑。 同时在投多家，靠牛客网申助手把填表的...