1、LoRA 微调的原理LoRA 的核心思想是不直接更新预训练模型里的原始大权重，而是在某些线性层旁边增加一个低秩更新分支，用低秩矩阵去近似权重增量。假设原始权重是 W∈Rd×k，全量微调时直接学习ΔW，LoRA 则把它写成：ΔW=BA其中A∈Rr×k，B∈Rd×r ,，(r) 是远小于 (d) 和 (k) 的秩。这样前向计算就变成：h=Wx+ΔWx=Wx+BAx实际里通常还会加缩放项：这样做的本质是认为很多下游任务对大模型权重的更新其实存在低秩结构，不需要真的去学习一个完整的大矩阵。LoRA 的优点是可训练参数少、显存占用低、训练快，而且原模型参数冻结，方便多任务切换和权重管理。2、LoRA...

鼠鼠好唐鼠鼠好唐鼠鼠好唐鼠鼠好唐鼠鼠好唐鼠鼠好唐鼠鼠好唐鼠鼠好唐鼠鼠好唐鼠鼠好唐

自我介绍结合项目中为什么用kafka，而不用RabbitMQ?Redis支持哪几种基本数据类型？Zset的底层原理了解过吗？Redis和memcached相比有什么优势？Redis数据的缓存淘汰策略有哪几种？（我说出来三种，面试官说其实还有）缓存雪崩了解吗？怎么解决？如果让设计一个锁，你怎么去设计？Redis红锁了解吗？Redis分布式锁和Zookeeper怎么选择？结合项目为什么选用ES存储，而不是使用mysql或者Hadoop？了解ES的倒排索引吗？SpringBoot的优势？常用的注解有哪些？Resource和Autowired的区别？mysql中的#{}和${}的区别？Mybatis的...