东方算芯 内推

1、LoRA 微调的原理LoRA 的核心思想是不直接更新预训练模型里的原始大权重，而是在某些线性层旁边增加一个低秩更新分支，用低秩矩阵去近似权重增量。假设原始权重是 W∈Rd×k，全量微调时直接学习ΔW，LoRA 则把它写成：ΔW=BA其中A∈Rr×k，B∈Rd×r ,，(r) 是远小于 (d) 和 (k) 的秩。这样前向计算就变成：h=Wx+ΔWx=Wx+BAx实际里通常还会加缩放项：这样做的本质是认为很多下游任务对大模型权重的更新其实存在低秩结构，不需要真的去学习一个完整的大矩阵。LoRA 的优点是可训练参数少、显存占用低、训练快，而且原模型参数冻结，方便多任务切换和权重管理。2、LoRA...

给时间时间 终会梦想成真的🥺那就努力努力再努力🤲

大家都在鼓励你。自己也要争气啊！！！

这段时间春招面试，不管是中小厂、制造业信息化、还是软件岗，只要沾一点智能、算法、大模型、AI工具，面试官必问AI相关问题。我一开始完全没准备，前两场答得一塌糊涂，后面专门整理了一下，才发现套路非常固定。给大家说下最常出现、几乎每家都问的：第一个就是 RAG基本都会问：你知道RAG吗？能干什么？和直接训模型有什么不一样？不会让你手写公式，就是看你懂不懂：外接知识库、减少幻觉、不用改模型、更安全这几个关键点。能说清楚，面试官就点头了。第二个必问：AI幻觉什么是幻觉？为什么会出现？你在项目里怎么避免？我一般就答：数据不行、模型瞎编、上下文乱。解决就靠RAG、加校验、限制输出、加来源引用。很朴实，但面...