1. 什么是 LoRA？LoRA 全称是 Low-Rank Adaptation，核心思想是在微调大模型时不直接更新原始大权重矩阵，而是冻结预训练权重，只额外学习两个低秩矩阵，用这两个小矩阵的乘积去近似原权重的增量。原来如果某层权重是： W ∈ R^(d×k) LoRA 不直接学习 ΔW 的完整矩阵，而是写成： ΔW = B A A ∈ R^(r×k), B ∈ R^(d×r), 且 r << min(d, k) 最终前向变成： h = W x + ΔW x = W x + B A x 这样训练参数量会大幅下降。2. LoRA 的思路是什么？LoRA 的基本假设是：大模型在迁移到下...

项目一个是改的黑马程序员RAG项目，一个是实体教程书上的项目。第一次实习，目标是中小厂，求意见

😭😭😭其实学的很糟糕，我妈说别太累了直接眼泪止不住的往下掉，😭😭😭😭，本来想告诉她，我想回家了，但是和她多说也没什么用，多一个人烦恼罢了。😭😭😭😭

刷牛客看到好多人问实习转正的事，我去年刚走完这套流程，分享下我的真实情况吧：26届，大模型算法，实习3个月，没面试直接转正了。一、实习这3个月：把我干懵过也干爽过我是去年大概4月入职的，到7月启动转正流程，正好3个月左右。刚来的时候真的懵。之前也在别的公司实习过，前两三个月主要做数据处理，后面才开始逐渐接触模型。但百度这边节奏很快，第一周mentor就跟我讲接下来要做什么项目了，而且刚入职对各种事情都不熟悉，我记得入职第一天配环境就搞了大半天，各种内部工具名字都没听过，整个就是一个手忙脚乱。好在身边同事都很耐心，问他们都会回，mentor人也挺好，不是甩手掌柜。这里也是点名一下，其实现在形形色...