1、LoRA 微调的原理LoRA 的核心思想是不直接更新预训练模型里的原始大权重，而是在某些线性层旁边增加一个低秩更新分支，用低秩矩阵去近似权重增量。假设原始权重是 W∈Rd×k，全量微调时直接学习ΔW，LoRA 则把它写成：ΔW=BA其中A∈Rr×k，B∈Rd×r ,，(r) 是远小于 (d) 和 (k) 的秩。这样前向计算就变成：h=Wx+ΔWx=Wx+BAx实际里通常还会加缩放项：这样做的本质是认为很多下游任务对大模型权重的更新其实存在低秩结构，不需要真的去学习一个完整的大矩阵。LoRA 的优点是可训练参数少、显存占用低、训练快，而且原模型参数冻结，方便多任务切换和权重管理。2、LoRA...

为啥约不到面试啊😭😭😭是我的简历问题，还是打招呼有问题大佬们，能帮忙看看简历吗？

过了，云智真tm香啊。😜

全程30min，无手撕自我介绍最大的优点实习项目如何进行sql调优RabbitMQ如何保证消息不丢失介绍一下OOM，哪些地方可能会发生OOM，发生OOM会出现什么现象介绍一下线程池，可以无限创建线程吗，为什么如何实现一个id生成器，几种方案的优缺点介绍一下雪花算法讲解一下聊天消息发送、接受的整个流程介绍一下子网掩码linux熟悉吗，如何设置开机自启动还有一个linux相关的没听清反问实习项目没咋问，说工作太简单。太菜给我面自闭了