1、LoRA 微调的原理LoRA 的核心思想是不直接更新预训练模型里的原始大权重，而是在某些线性层旁边增加一个低秩更新分支，用低秩矩阵去近似权重增量。假设原始权重是 W∈Rd×k，全量微调时直接学习ΔW，LoRA 则把它写成：ΔW=BA其中A∈Rr×k，B∈Rd×r ,，(r) 是远小于 (d) 和 (k) 的秩。这样前向计算就变成：h=Wx+ΔWx=Wx+BAx实际里通常还会加缩放项：这样做的本质是认为很多下游任务对大模型权重的更新其实存在低秩结构，不需要真的去学习一个完整的大矩阵。LoRA 的优点是可训练参数少、显存占用低、训练快，而且原模型参数冻结，方便多任务切换和权重管理。2、LoRA...

今天第一段实习离职了，公司很好，同事很好，mentor也很好，待遇也很好，第一次在这里体会到了归属感，离职的中午mentor还请我吃了饭，真的感谢公司给我的这一次机会，也感谢这次机会让我认识了不错的实习搭子，也感谢好的舍友，被导员找的时候盘问的时候一直在帮我打掩护。只是没想到导员会看门禁的进出记录，也没有想到我的家长会把我实习全部告诉导员，更没有想到在我应付过导员后，为了以后实习申请不住宿只能和家长说我的规划并寻求他们帮助的时候，他们先是稳住我，之后把我去实习的情况和现在去离职肯定的告诉导员。在他发现我可能实习，到离职完，我后面还是有一步一步的规划，直到家长和我说他们把我离职已经和导员说了，我被稳住了，我后面也没有招了以后也没有机会实习了，我已经尽力了，可能对不起的只有我自己的努力，为我打掩护，咬死不承认的舍友，和二面把我过掉，但我却没有帮上忙的mentor和公司了祝大家一切顺利吧，我只能躺平等毕业再说了😊以后有没有机会接触开发再看吧

手把手带你从零搭一个 AI Agent｜本地运行，不花一分钱 今天推荐一个 GitHub 上的宝藏项目——AI Agents from Scratch，用本地大模型从第一性原理构建 AI Agent。不需要 API Key，不需要花钱，不需要 GPU，8GB 内存的笔记本就能跑。 为什么推荐这个项目？ 市面上大部分 Agent 教程都是"调 API + 套框架"，你跟着跑通了，但不知道底层在干嘛。这个项目不一样：  从零开始：不用 LangChain、不用 AutoGen，纯手写 本地运行：用 node-llama-cpp 加载 GGUF 模型，完全离线 10 个递进式 L...