Q:请详细解释一下 Transformer 模型中的自注意力机制是如何工作的?它为什么比 RNN 更适合处理长序列? 难度:⭐⭐ 公司:字节、阿里、腾讯(高频) 算法岗回答要点:   自注意力机制原理  输入序列通过三个线性变换得到 Q(Query)、K(Key)、V(Value) 计算注意力分数:scores = QK^T / √d_k Softmax 归一化得到注意力权重 加权求和:output = softmax(scores) · V    数学推导 Attention(Q,K,V) = softmax(QK^T/√d_k)V   为什么除以√d_k?防止点积过大导致梯度消失 Mult...

经历了一年多的简历修改，现在还没有尝试海投，八股文感觉还没有准备好，就背了Java jvm啊 MySQL spring 那些，上半年光去实习了，没有背全忘了，最近又开始八股，感觉很没有底气去投。第一次小厂面试一下就过了，就演示了下自己可以运行的项目，好像还问了索引 aop 这些，所以现在很没勇气再去尝试。想请教下现金三银四是说现在投递找什么实习？面试是都有有笔试还是特定大公司才有，还有现在投递的是日常实习吗还是暑假实习呀，或者有没有大佬再帮我看下简历提点意见，就压力很大啊

原本想以为实习经历就更好找正式了，但是恰恰相反，在boss上面，石沉大海，要么是实习转正，要么必须线下面试，我真没招了，准备跳楼了

1. 模型训练里你怎么在全参微调和 LoRA 之间做选择这个问题我一般不会只从显存够不够来答，而是会结合任务复杂度、分布偏移程度和上线方式来讲。全参微调的优点是表达空间更大，适合任务分布和原模型差异比较大的场景，比如领域知识很重、输出风格和推理路径都要明显改造的时候，它更容易学到深层适配；LoRA 这类 PEFT 方法更适合成本敏感、实验迭代快、模型版本频繁切换的场景，特别是多任务并行或者多租户配置时，管理上会轻很多。如果任务本质上是在原模型能力基础上做轻量偏移，比如格式约束、领域术语补强、特定工具调用习惯，LoRA 往往就够了。反过来，如果发现训练后模型虽然会答，但深层行为模式改不动，比如推...