1. 什么是 LoRA？LoRA 全称是 Low-Rank Adaptation，核心思想是在微调大模型时不直接更新原始大权重矩阵，而是冻结预训练权重，只额外学习两个低秩矩阵，用这两个小矩阵的乘积去近似原权重的增量。原来如果某层权重是： W ∈ R^(d×k) LoRA 不直接学习 ΔW 的完整矩阵，而是写成： ΔW = B A A ∈ R^(r×k), B ∈ R^(d×r), 且 r << min(d, k) 最终前向变成： h = W x + ΔW x = W x + B A x 这样训练参数量会大幅下降。2. LoRA 的思路是什么？LoRA 的基本假设是：大模型在迁移到下...

太难写了

想问下agent项目和简历应该怎么优化

四个题,笔者睡过头了,只有1h时间,拼尽全力只答了2.45...本来想当怯战蜥蜴的,但是一想到下一次笔试在半个月后,这个恐怖的罚时让笔者不能接受,最后硬着上了...答的很烂,但是笔者真燃尽了...T1 95%有n个任务,要么占用a个token和b的时间,要么占用c的token和d的时间,任务可以不做现在有m的token和t的时间,问你最多能做多少个任务.由于实在没什么时间了,笔者写的dfs,意外发现好像是正解...但是只有95%是hyw???笔者代码这么烂的吗dfs常数巨大???T2 0%有m个槽位,每个槽位上放一个热度值.有n个新闻,每个新闻只能放在热度值 的范围内.最后问你最多能多少个新闻...