喜马拉雅2024届管培生校园招聘开启！

1. 什么是 LoRA？LoRA 全称是 Low-Rank Adaptation，核心思想是在微调大模型时不直接更新原始大权重矩阵，而是冻结预训练权重，只额外学习两个低秩矩阵，用这两个小矩阵的乘积去近似原权重的增量。原来如果某层权重是： W ∈ R^(d×k) LoRA 不直接学习 ΔW 的完整矩阵，而是写成： ΔW = B A A ∈ R^(r×k), B ∈ R^(d×r), 且 r << min(d, k) 最终前向变成： h = W x + ΔW x = W x + B A x 这样训练参数量会大幅下降。2. LoRA 的思路是什么？LoRA 的基本假设是：大模型在迁移到下...

没必要在学校疯狂卷了

想找日常实习 打算5月份开投  各位佬有什么意见吗 简历打算命名为杭电-姓名- Java后端开发- XXXXX 不强调年级会有事吗 p2是自我介绍 p3是boss打招呼

回想去年实习的第一天，我以为我会是从容淡定的职场新人，结果全程像个没头苍蝇，根本不知道干什么。当天，我是提前半小时到公司，到了工位后，HR简单介绍了下公司的茶水间、卫生间和周围的环境，就把我交给了mt，然后就没影了。mt很忙，扔给我一个项目文档，让我先看，说有不懂的再问他，然后就埋头敲代码，全程没再理我。我坐在工位上，不敢瞎动、不敢瞎问，只能乖乖翻手册，但是越看越迷茫，不知道自己接下来要做什么，也不知道该怎么跟mt搭话。最尴尬的是，中午吃饭的时候，大家都三三两两一起去食堂，我一个人都不认识，只能默默坐在工位上。还在mt后来忙完，待我去了食堂。下午，mentor直接给了我一个简单的小任务，说让我...