1. 什么是 LoRA？LoRA 全称是 Low-Rank Adaptation，核心思想是在微调大模型时不直接更新原始大权重矩阵，而是冻结预训练权重，只额外学习两个低秩矩阵，用这两个小矩阵的乘积去近似原权重的增量。原来如果某层权重是： W ∈ R^(d×k) LoRA 不直接学习 ΔW 的完整矩阵，而是写成： ΔW = B A A ∈ R^(r×k), B ∈ R^(d×r), 且 r << min(d, k) 最终前向变成： h = W x + ΔW x = W x + B A x 这样训练参数量会大幅下降。2. LoRA 的思路是什么？LoRA 的基本假设是：大模型在迁移到下...

分享一个蚂蚁timeline3.25 一面3.30 二面4.2 HR面4.10 意向书

这几个项目有没有含金量，是些什么水平的项目？

前几天面试的时候，因为想让实习经历好看点，硬着头皮说了一句大话，结果面试被面试官当场追问，直接翻车，尴尬到想找地缝钻进去！就是那句“熟练使用LangChain搭建AI项目”，其实我就跟着教程做过一个最简单的demo，连核心逻辑都没吃透，纯纯凑数的，写在简历上的时候就贼心虚，就怕被问到。结果真的怕啥来啥啊，昨天面试，面试官看完简历直接问我，“你用LangChain搭项目的时候，怎么解决Tool Calling的冲突问题？” 我瞬间懵了，支支吾吾说不出来，脸一下子就红了。最后只能老实交代，说自己只是初步接触，还没深入研究，面试官也没为难我，但我能感觉到，他看我的眼神都变了，估计这次面试又凉了。真的...