1. 什么是 LoRA？LoRA 全称是 Low-Rank Adaptation，核心思想是在微调大模型时不直接更新原始大权重矩阵，而是冻结预训练权重，只额外学习两个低秩矩阵，用这两个小矩阵的乘积去近似原权重的增量。原来如果某层权重是： W ∈ R^(d×k) LoRA 不直接学习 ΔW 的完整矩阵，而是写成： ΔW = B A A ∈ R^(r×k), B ∈ R^(d×r), 且 r << min(d, k) 最终前向变成： h = W x + ΔW x = W x + B A x 这样训练参数量会大幅下降。2. LoRA 的思路是什么？LoRA 的基本假设是：大模型在迁移到下...

这还是🐮的，哈哈哈哈。多读书!

真的没法子了，彻底绝望了😑😑😑

网友提问：YT哥您好。我是某普通985电子信息的大二学生，未来不打算读研，想本科阶段找实习然后毕业就工作。我目前会st、freertos、pid、pcb设计等，然后只有一个代码自己写的平衡车的项目（虽然是烂大街的），没有比赛和奖项。我想请问如果我再做一个独立完成的项目，然后找到日常实习的概率有多大？如果比较难找到，那我接下来应该再学什么技术，或推荐做什么项目？还有目前嵌入式行业，普通的单片机软件开发和嵌入式Linux应用开发，哪个的前景会更好？学习linux应用开发的技术会不会更容易找到实习？非常感谢YT哥的解答Yt回复：一、关于985：不管你多么普通，你也是985基本背景：普通985，目前大...