腾讯csig一面面经

1. 什么是 LoRA？LoRA 全称是 Low-Rank Adaptation，核心思想是在微调大模型时不直接更新原始大权重矩阵，而是冻结预训练权重，只额外学习两个低秩矩阵，用这两个小矩阵的乘积去近似原权重的增量。原来如果某层权重是： W ∈ R^(d×k) LoRA 不直接学习 ΔW 的完整矩阵，而是写成： ΔW = B A A ∈ R^(r×k), B ∈ R^(d×r), 且 r << min(d, k) 最终前向变成： h = W x + ΔW x = W x + B A x 这样训练参数量会大幅下降。2. LoRA 的思路是什么？LoRA 的基本假设是：大模型在迁移到下...

对不住了bro哈哈哈哈哈

好像是个中厂，如果处女面面这个会死吗

比删错库更让人心梗的，绝对是导师突然发来一句：“你现在来我办公室一趟。”看到消息那一刻，脑子瞬间开启走马灯模式！疯狂回想是不是自己写的Kafka同步逻辑把节点搞崩了？还是TRP系统里的电池老化评估模块引发了严重的线上事故？走向办公室的那几十步路，心里七上八下，连离职感言都快在脑海里打好腹稿了。结果推开门，导师可能只是想跟你讨论一下下阶段的开发计划，或者确认个小需求。这种被未知恐惧支配又瞬间落地的感觉，真的是每个实习生都会经历的心理过山车！