每日许愿oc

1. 什么是 LoRA？LoRA 全称是 Low-Rank Adaptation，核心思想是在微调大模型时不直接更新原始大权重矩阵，而是冻结预训练权重，只额外学习两个低秩矩阵，用这两个小矩阵的乘积去近似原权重的增量。原来如果某层权重是： W ∈ R^(d×k) LoRA 不直接学习 ΔW 的完整矩阵，而是写成： ΔW = B A A ∈ R^(r×k), B ∈ R^(d×r), 且 r << min(d, k) 最终前向变成： h = W x + ΔW x = W x + B A x 这样训练参数量会大幅下降。2. LoRA 的思路是什么？LoRA 的基本假设是：大模型在迁移到下...

何意味😄

没招了，笑死了

文远的笔试是26号早八到晚九之间随便选俩小时笔试就行,用的是牛客oj.不让泄题,那就透露一下做法... 俩小时笔试,笔者做完还剩半个小时,可还行...T1首先有一个很容易想到的O(n^3)区间dp做法,交了过60%. 然后发现这个区间覆盖问题可以转化为图论找最短路,写了一个O(n^2logn)的做法,交了过80%. 然后不会了,尝试玄学优化,限制加边的数量,在WA和TLE之间徘徊几发之后过了. 后续问AI都说是斜率优化,吓哭了(笔者不会斜率优化).T2很简单的贪心题,没想到签到居然在T2.T3LCA板子题.经典结论: 设树上uv路径上所有点的权值和为 f(u,v) ,那么 f(u,v)=f(u...