1. 什么是 LoRA？LoRA 全称是 Low-Rank Adaptation，核心思想是在微调大模型时不直接更新原始大权重矩阵，而是冻结预训练权重，只额外学习两个低秩矩阵，用这两个小矩阵的乘积去近似原权重的增量。原来如果某层权重是： W ∈ R^(d×k) LoRA 不直接学习 ΔW 的完整矩阵，而是写成： ΔW = B A A ∈ R^(r×k), B ∈ R^(d×r), 且 r << min(d, k) 最终前向变成： h = W x + ΔW x = W x + B A x 这样训练参数量会大幅下降。2. LoRA 的思路是什么？LoRA 的基本假设是：大模型在迁移到下...

恐怖如斯

四段实习经历，三段大厂。。春招至今0面试。。。受到好大的打击啊

前言时隔两年再次更新了，本文主要给大家带来一些我面试的经历和经验，希望对正在求职大厂前端岗位的同学有所帮助。我先大致说下面试之前的个人情况：2021年毕业去了一家500人左右的小公司，react和vue项目经验都有，两年半后拿礼包去了一家中厂，后来在这家公司待了一年左右最近面试京东拿到了P6的offer，差不多四年的工作经验终于拿到了大厂的入场券。我写的篇幅可能比较长，这里讲一下为什么会有七轮面试，刚开始社区找人内推的北京团队，后来三面老板面因为工作地点的原因挂掉了(本人毕业后一直在上海工作)，由于前面技术轮评价比较好，又找了上海的团队内推重新面了四轮才成功拿下。好了，接下来就大概讲讲我的多轮...