1. 什么是 LoRA？LoRA 全称是 Low-Rank Adaptation，核心思想是在微调大模型时不直接更新原始大权重矩阵，而是冻结预训练权重，只额外学习两个低秩矩阵，用这两个小矩阵的乘积去近似原权重的增量。原来如果某层权重是： W ∈ R^(d×k) LoRA 不直接学习 ΔW 的完整矩阵，而是写成： ΔW = B A A ∈ R^(r×k), B ∈ R^(d×r), 且 r << min(d, k) 最终前向变成： h = W x + ΔW x = W x + B A x 这样训练参数量会大幅下降。2. LoRA 的思路是什么？LoRA 的基本假设是：大模型在迁移到下...

两个项目一个是黑马点评 一个是随便找的agent项目 黑马点评讲解看了一半有必要看完么或者换一个别的项目 那个agent项目也只是看了一半 友友们给点建议😭 格式问题和内容问题都可以谢谢了😭

长风破浪会有时，直挂云帆济沧海。刚开始准备找暑期实习时，我踌躇满志，自以为已经有了一段实习经历，加上9本，好好准备准备面试找个大厂暑期不是手拿把掐手到擒来?然而现实却给了我一个响亮的耳光，别说面试了，连简历都过不去，迎接我的，只有简历挂，测评完泡池子，笔试完泡池子...而我呢，每天都沉浸在八股-项目-算法-八股...的循环中，然而，却连一个面试机会，都等不来...，我，也有些懈怠了。就在这时，美团的面邀，就像，哦不，简直就是照进我灰暗的生活的一道曙光，我立刻找回自信，继续疯狂的复习八股，项目，算法，以迎接这场面试。然而，现实又是一记响亮的耳光，面试完后，很快就回归了人才库。我又陷入了迷茫，究竟...