宁德时代数据开发

1. 什么是 LoRA？LoRA 全称是 Low-Rank Adaptation，核心思想是在微调大模型时不直接更新原始大权重矩阵，而是冻结预训练权重，只额外学习两个低秩矩阵，用这两个小矩阵的乘积去近似原权重的增量。原来如果某层权重是： W ∈ R^(d×k) LoRA 不直接学习 ΔW 的完整矩阵，而是写成： ΔW = B A A ∈ R^(r×k), B ∈ R^(d×r), 且 r << min(d, k) 最终前向变成： h = W x + ΔW x = W x + B A x 这样训练参数量会大幅下降。2. LoRA 的思路是什么？LoRA 的基本假设是：大模型在迁移到下...

求助，怎么改进。约面都没有🙂‍↔️  

我的基本条件：26四非物联网工程专业快毕业，现在是考研上岸了某9（两年制），现在Java只会最基础的东西（只会写题的程度），物联网方面的比较了解（做了智能家居以及边缘ai的项目类似的项目），但是找的导师不是物联网方向的（cv和llm），python只会一些基础（正在用python写leetcode补下代码能力），现在很迷茫，不知道就业市场有哪些岗位适合现在的我，感觉我的生涯路线目前比较乱。然后由于研究生时两年制的，所以我想趁现在有空窗期补补技术，到时候好找实习。求大佬指点方向（目前不知道有哪些主流方向）给点建议，感激不尽啊，下面是做过的一些项目。