美团内推

1. 什么是 LoRA？LoRA 全称是 Low-Rank Adaptation，核心思想是在微调大模型时不直接更新原始大权重矩阵，而是冻结预训练权重，只额外学习两个低秩矩阵，用这两个小矩阵的乘积去近似原权重的增量。原来如果某层权重是： W ∈ R^(d×k) LoRA 不直接学习 ΔW 的完整矩阵，而是写成： ΔW = B A A ∈ R^(r×k), B ∈ R^(d×r), 且 r << min(d, k) 最终前向变成： h = W x + ΔW x = W x + B A x 这样训练参数量会大幅下降。2. LoRA 的思路是什么？LoRA 的基本假设是：大模型在迁移到下...

这些题刷完能不能拿五千一个月

本来觉得混了段实习应该比找第一段的时候好点 怎么感觉还是没有面试哇

实习时最怕听到“把这个活干一下”。这句话看似简单，却常常没有边界、没有说明，也没有预期结果。你不知道要做到什么程度，也不清楚优先级和时间要求，只能一边试探一边修改，反复返工。比起任务本身，更让人焦虑的是这种不确定感。