1. 什么是 LoRA？LoRA 全称是 Low-Rank Adaptation，核心思想是在微调大模型时不直接更新原始大权重矩阵，而是冻结预训练权重，只额外学习两个低秩矩阵，用这两个小矩阵的乘积去近似原权重的增量。原来如果某层权重是： W ∈ R^(d×k) LoRA 不直接学习 ΔW 的完整矩阵，而是写成： ΔW = B A A ∈ R^(r×k), B ∈ R^(d×r), 且 r << min(d, k) 最终前向变成： h = W x + ΔW x = W x + B A x 这样训练参数量会大幅下降。2. LoRA 的思路是什么？LoRA 的基本假设是：大模型在迁移到下...

正式进入AI Coding时代了  

职场从来都不存在什么公平，雇主通常都是优势方而雇员是弱势方（行业大神除外），再加上我们国家人口众多，所以很正常的，公司作为雇主在面试应聘者的时候都是趾高气昂、高高在上（面试过n家公司的在一旁泣血控诉）。人有三六九等，公司也有三六九等，而面试官也有，有不少渣渣公司在面试求职者的时候，往往瞅准了求职者急于找到工作的心理，用各种手段把求职者耍的团团转，最后求职者还得对他们说一句：谢谢！下面是几种求职者经常会遇到的坑:第一种：打着招人的幌子实际上是为了解决公司项目上遇到的技术难题在我们求职过程中，有的公司动机不纯，通过各种理由欺瞒，将求职者在面试时的经验成果据为己有。最常见的就是以笔试为名将项目里遇到...