蚂蚁一面

1. 什么是 LoRA？LoRA 全称是 Low-Rank Adaptation，核心思想是在微调大模型时不直接更新原始大权重矩阵，而是冻结预训练权重，只额外学习两个低秩矩阵，用这两个小矩阵的乘积去近似原权重的增量。原来如果某层权重是： W ∈ R^(d×k) LoRA 不直接学习 ΔW 的完整矩阵，而是写成： ΔW = B A A ∈ R^(r×k), B ∈ R^(d×r), 且 r << min(d, k) 最终前向变成： h = W x + ΔW x = W x + B A x 这样训练参数量会大幅下降。2. LoRA 的思路是什么？LoRA 的基本假设是：大模型在迁移到下...

211本985硕,暑期快手已经用人部门筛挂两次了😡😡实习已经改了一版了,需要写的更详细点吗😭😭😭

恐怖如斯

前面基本上都在问论文 无手撕1. 自我介绍2. 介绍下简历上这个项目3. 你对对话 LLM 的理解是什么？它和普通文本生成模型的核心区别是什么？答案：对话 LLM 不是简单地做 next token prediction，它要在多轮交互里持续维护用户意图、对话状态、约束条件和安全边界。普通生成模型更关注单次输入到输出的流畅性，对话模型还要考虑上下文一致性、角色一致性、拒答策略、澄清提问以及工具调用。它的核心难点在于“历史信息并不等价于有效状态”。用户前面说过的内容，有的仍然有效，有的已经被修正，有的是噪声。对话 LLM 必须学会根据当前轮次重新解释历史，而不是把所有历史机械拼接进去。工程上通常...