北京中科院软件中心有限公司

1、LoRA 微调的原理LoRA 的核心思想是不直接更新预训练模型里的原始大权重，而是在某些线性层旁边增加一个低秩更新分支，用低秩矩阵去近似权重增量。假设原始权重是 W∈Rd×k，全量微调时直接学习ΔW，LoRA 则把它写成：ΔW=BA其中A∈Rr×k，B∈Rd×r ,，(r) 是远小于 (d) 和 (k) 的秩。这样前向计算就变成：h=Wx+ΔWx=Wx+BAx实际里通常还会加缩放项：这样做的本质是认为很多下游任务对大模型权重的更新其实存在低秩结构，不需要真的去学习一个完整的大矩阵。LoRA 的优点是可训练参数少、显存占用低、训练快，而且原模型参数冻结，方便多任务切换和权重管理。2、LoRA...

26届春招，学院本，双非硕秋招惨败，目前春招投了40家了，还没面试

求助，今年大四，之前没有过实习，简历投出去都说不合适

多多啊 多多啊 上来四道算法题算法题直播排序，整体比较简单把对象写出来，然后比较规则写明白就OK了。唯一一道A100%的电车充电如何最省钱，到目的地如何充电的钱最少，路上有充电站，每个电站价格不一样。用了DP来做，但感觉是贪心的样子，最后没招了，把不能到的情况给干了出来，过了8%日志分析纠错，滑动窗口，但我最后结果永远少一，过了15%没看，力竭了燃尽了多多 以后牛客不用后台找我了，笔试夯爆了----------------3.18 流程终止----------以后不用pdd了  立即卸载