威迈斯新能源

1、LoRA 微调的原理LoRA 的核心思想是不直接更新预训练模型里的原始大权重，而是在某些线性层旁边增加一个低秩更新分支，用低秩矩阵去近似权重增量。假设原始权重是 W∈Rd×k，全量微调时直接学习ΔW，LoRA 则把它写成：ΔW=BA其中A∈Rr×k，B∈Rd×r ,，(r) 是远小于 (d) 和 (k) 的秩。这样前向计算就变成：h=Wx+ΔWx=Wx+BAx实际里通常还会加缩放项：这样做的本质是认为很多下游任务对大模型权重的更新其实存在低秩结构，不需要真的去学习一个完整的大矩阵。LoRA 的优点是可训练参数少、显存占用低、训练快，而且原模型参数冻结，方便多任务切换和权重管理。2、LoRA...

为啥约不到面试啊😭😭😭是我的简历问题，还是打招呼有问题大佬们，能帮忙看看简历吗？

距离我24年7月1号入职到现在还不到两年，已经混成了职场老油条，为什么短短不到两年我会变成这样呢？刚入职的半年（成长期）刚入职的3-6个月还是比较重要的，如果没有提前实习过或者从来没有实习过的同学一定要好好把握这段时间，这里给大家分享一点我个人的小技巧。多搜：特别是没有听过的名词或者概念一定要多去搜一搜，不懂的技术栈下来用ai了解一下，扫扫盲。多问：业务上或者内部工具一般不太好搜，这个时候就得去问问你的导师了或者其它同事，这里也有个小技巧，可以换人问，不用老是盯着一个人，如果导师人非常好的话（比如我），可以一直问你的导师。回头可以简单请人喝杯奶茶什么的，这招我在之前实习和刚入职的时候屡试不爽。...