1. 什么是 LoRA？LoRA 全称是 Low-Rank Adaptation，核心思想是在微调大模型时不直接更新原始大权重矩阵，而是冻结预训练权重，只额外学习两个低秩矩阵，用这两个小矩阵的乘积去近似原权重的增量。原来如果某层权重是： W ∈ R^(d×k) LoRA 不直接学习 ΔW 的完整矩阵，而是写成： ΔW = B A A ∈ R^(r×k), B ∈ R^(d×r), 且 r << min(d, k) 最终前向变成： h = W x + ΔW x = W x + B A x 这样训练参数量会大幅下降。2. LoRA 的思路是什么？LoRA 的基本假设是：大模型在迁移到下...

投了一个月了没约到面试

分享一个蚂蚁timeline3.25 一面3.30 二面4.2 HR面4.10 意向书

我听学长说他最害怕的就是前辈突然开口，尤其是那句“有空吗？”，每次听到都头皮发麻，神经紧绷。真的，这句话绝对是实习噩梦top1，没有之一！只要前辈一开口说“有空吗？”，大概率没好事，要么是临时加活，要么是之前做的东西出问题了，要么就是去做完全没接触过的任务，根本不知道该怎么下手。学长说他之前实习的时候，刚摸鱼刷了两分钟手机，前辈就走到工位旁，轻轻说“有空吗？”，给他吓一跳，硬着头皮说“有空有空”，结果就是让他改一份紧急报表，还得半小时内交，手忙脚乱半天，差点出错。后面导致他现在只要听到这句话，条件反射就紧张，哪怕是前辈只是想让他帮忙递个东西，他都得先慌一下。有时候甚至会故意装作忙，就怕被喊到