给菜鸟驿站打工，一天不到我就跑了

1. 什么是 LoRA？LoRA 全称是 Low-Rank Adaptation，核心思想是在微调大模型时不直接更新原始大权重矩阵，而是冻结预训练权重，只额外学习两个低秩矩阵，用这两个小矩阵的乘积去近似原权重的增量。原来如果某层权重是： W ∈ R^(d×k) LoRA 不直接学习 ΔW 的完整矩阵，而是写成： ΔW = B A A ∈ R^(r×k), B ∈ R^(d×r), 且 r << min(d, k) 最终前向变成： h = W x + ΔW x = W x + B A x 这样训练参数量会大幅下降。2. LoRA 的思路是什么？LoRA 的基本假设是：大模型在迁移到下...

个人背景：学院二本计科专业 大二开始实习个人经历：安克创新 、理想汽车、字节跳动碎碎念：我做事只有三分钟热度。看到进了大厂的同学，我会羡慕，也会跟着努力上进；但遇到好看的小说，我又会放下手头的事沉迷其中，之前的坚持也就中断了。我有些自卑，总觉得自己学历和外貌都不够好。之前偶然在网上受到关注，我就喜欢上了上网，因为这里有很多人认可我。但我也很在意别人的评价，偶尔看到嘲讽的言论，会触发我的自卑情绪，让我感到愤怒。有时候我会强硬地回怼，有时候又会懦弱地选择无视。我也有虚荣心。不管是拿到安克、理想还是字节的机会，我在分享的时候都会带着这份心思。我会特意强调自己学历不好，是为了衬托出过程的艰难，以此显得自己更厉害。我知道，人往往会炫耀自己缺少的东西，来掩盖内心的空洞。我总想着走捷径，不太喜欢踏踏实实地做事。找实习的时候，我花了更多时间在研究面试技巧上，而不是提升专业能力。我会反复听面试录音分析技巧，看面试教程学习怎么和不同的面试官沟通，还会每天自言自语练习语言表达，同学都觉得我有点奇怪。我的实习生涯里，侥幸和运气占了很大一部分。我总在想，如果有一天我失去了这份幸运，这些特质可能会让我一蹶不振。ps： 很多人会问我学习路线和经验 但是就像我上面说的 我的实习过程靠的很多是关键节点的运气 技术上面我可能不如很多人  所以请大家理性求助和理性参考我的回答 附上我的投递记录

鼠鼠好唐鼠鼠好唐鼠鼠好唐鼠鼠好唐鼠鼠好唐鼠鼠好唐鼠鼠好唐鼠鼠好唐鼠鼠好唐鼠鼠好唐

也大大小小面了很多内部正在搞AI的公司，给大家分享一下我的面试题库！ 第一章：RAG 系统 Q1: 请解释 RAG 的工作原理。与直接对 LLM 进行微调相比，RAG 主要解决了什么问题？ RAG（Retrieval-Augmented Generation）的核心是"检索+生成"两阶段：先从外部知识库中检索与用户问题相关的文档片段，再将这些片段作为上下文拼入 prompt，让 LLM 基于检索到的信息生成回答。相比微调，RAG 的优势在于： ①知识可实时更新，不需要重新训练模型； ②可追溯来源，减少幻觉且便于审计； ③成本低，不需要 GPU 资源做训练； ④领域迁移方便，...