刷到这个话题，我脚趾已经开始抠地了。作为双非本科，在杭州一家互联网公司做后端开发实习4个月，从最开始接个需求都手抖，到现在能独立负责模块，实习生涯里的心跳加速、头皮发麻、社死尴尬，全藏在那几句短短几个字的话里。而我实习时最怕听到的一句话，没有之一，就是周末休息时，手机突然弹出leader发来的那句：“在吗？线上出问题了，你看看”。我至今都记得那个周六，我正跟同学在西湖边逛着，手机突然震了，点开就是leader发来的这句话，后面还跟着一串线上告警截图，是我负责的工单模块出了偶发的空指针异常，大促期间用户支付成功却没生成工单。那一瞬间，西湖的美景我一眼都看不进去了，手心瞬间全是汗，脑子一片空白，第...

继上次三方毁约后，又拿到了腾讯社招offer

1. 什么是 LoRA？LoRA 全称是 Low-Rank Adaptation，核心思想是在微调大模型时不直接更新原始大权重矩阵，而是冻结预训练权重，只额外学习两个低秩矩阵，用这两个小矩阵的乘积去近似原权重的增量。原来如果某层权重是： W ∈ R^(d×k) LoRA 不直接学习 ΔW 的完整矩阵，而是写成： ΔW = B A A ∈ R^(r×k), B ∈ R^(d×r), 且 r << min(d, k) 最终前向变成： h = W x + ΔW x = W x + B A x 这样训练参数量会大幅下降。2. LoRA 的思路是什么？LoRA 的基本假设是：大模型在迁移到下...