第 15 题：LoRA（Low-Rank Adaptation）的数学原理 题目 解释 LoRA（Low-Rank Adaptation）微调的数学原理。 一、动机 全量微调大模型要更新全部参数，显存与算力成本高。LoRA 假设预训练权重在适应新任务时，有效更新是低秩的，因此只学习一个低秩增量，与原权重相加得到适应后的权重，从而大幅减少可训练参数与显存。 二、数学形式 设某层线性变换为 ，。LoRA 不直接改 ，而是增加低秩分解的增量：  其中 ，， 为秩。前向时：   训练：只训练 、， 冻结；参数量从  变为 。 推理：可把  算好存成一张矩阵，等价于单层线性，无额外延迟；或保留  分开算...

说个可能不太"ZZ正确"的大实话：大厂实习经历在找工作中的加成，比你想象的大太多了。我去年暑期在某大厂做推荐系统实习，说实话活不算特别有深度，主要是做特征工程和一些AB实验。但秋招的时候，简历上这一行带来的好处是全方位的。首先是过筛。投了20家，70%的简历通过率。我室友背景跟我差不多，但实习是一家没听过名字的小公司，15家过了3家。你说是能力差距吗？不是，纯粹HR看到大厂名字就默认你至少不差。其次是面试氛围。面试官看到你在xx厂实习过，态度明显不一样，会默认你的基础能力没问题，更多地聊项目思路和方向判断，而不是从头盘问你基础知识。我室友面试经常被追问八股文，我反而很少被问到。

我学弟最近刚入职实习，本来他还挺期待的，结果入职没几天就找我吐槽，说他和 mt 的相处模式，简直窒息到想立刻辞职！我学弟最近才解锁他的第一次实习，对职场还一脸懵懂，本来以为 mt 会带着他慢慢学，结果现实狠狠打了他的脸。入职第一天，他的 mt 就简单给了他一本公司手册，说了句 “自己先看，有不懂的再问我”，就再也没主动管过他。学弟刚开始还不好意思问，后来遇到不会的问题，鼓足勇气发消息问 mentor，要么半天不回，要么就被怼 “这么简单的问题都不会，自己问AI”，语气不怎么好。有一次他解BUG时引入了点小错误，mentor 直接在部门群里艾特他，当着所有人的面批评他，一点情面都不留。更让人无奈...