1. Transformer 的自注意力机制、位置编码、梯度消失和梯度爆炸的解决方案答：自注意力机制的核心是让每个 token 在计算表示时都能和序列中其他 token 交互。给定输入 (X)，先通过线性变换得到 (Q)、(K)、(V)：然后计算注意力：这里除以 根号下dk 是为了防止点积过大导致 softmax 进入饱和区，影响梯度。多头注意力就是把表示拆成多个子空间并行计算，最后再拼接，能从不同角度学习依赖关系。位置编码是因为 Attention 本身不包含顺序信息，所以需要显式加入位置信息。经典做法是正余弦位置编码：现在也常用相对位置编码和 RoPE。梯度消失和梯度爆炸的解决方案包括：残...

我看过一些面试反馈，有一个比较典型的现象：👉 有些人一面没问题，但到了二面，很快就被问住了而且往往不是不会，而是：👉 讲不深、讲不透、讲不下去二面和一面最大的区别在于：👉 不再考“你知道什么”，而是在看：👉 你做过的东西，能不能经得起推敲1️⃣ 项目不再是“讲”，而是“被拆”很多人准备项目的方式是：我做了什么用了什么技术达到了什么效果这些在一面是够用的。但二面通常会直接往下问：👉 细节比如：这个优化你为什么会想到？当时有没有其他方案？为什么不用？如果场景变化，这个方案还成立吗？有没有什么可以继续优化的地方？这类问题的核心不是难，而是：👉 你有没有真正思考过你做的东西很多人卡在这里的...