1、LoRA 微调的原理LoRA 的核心思想是不直接更新预训练模型里的原始大权重，而是在某些线性层旁边增加一个低秩更新分支，用低秩矩阵去近似权重增量。假设原始权重是 W∈Rd×k，全量微调时直接学习ΔW，LoRA 则把它写成：ΔW=BA其中A∈Rr×k，B∈Rd×r ,，(r) 是远小于 (d) 和 (k) 的秩。这样前向计算就变成：h=Wx+ΔWx=Wx+BAx实际里通常还会加缩放项：这样做的本质是认为很多下游任务对大模型权重的更新其实存在低秩结构，不需要真的去学习一个完整的大矩阵。LoRA 的优点是可训练参数少、显存占用低、训练快，而且原模型参数冻结，方便多任务切换和权重管理。2、LoRA...

过完年最近一直在忙一些副业，自己搞了一个小脚本，又写写论文毕设，一直都没有找实习，好多东西都忘了，没自信求指点

给时间时间 终会梦想成真的🥺那就努力努力再努力🤲

淘天 27 届暑期实习生正在招聘 各方向都有海量 HC 欢迎看我置顶帖子投递校招季翻了很多份 AI 方向的简历，发现一个规律：大家做的项目其实差不多——RAG、Agent、LLM 应用，技术栈也大同小异。但有的简历让人想立刻约面试，有的看完只记住了一串技术关键词。差距不在项目本身，在写法。同样是做了一个 RAG 系统，有人写"使用 LangChain 搭建了 RAG 系统"，有人写"对比了三种 chunking 策略后选用了基于段落结构的自适应切分，检索命中率从 62% 提升到 81%"。前者告诉我你用了什么，后者告诉我你思考了什么。面试官筛简历时真正在...