24届东大毕业校友求问

1. Transformer 的自注意力机制、位置编码、梯度消失和梯度爆炸的解决方案答：自注意力机制的核心是让每个 token 在计算表示时都能和序列中其他 token 交互。给定输入 (X)，先通过线性变换得到 (Q)、(K)、(V)：然后计算注意力：这里除以 根号下dk 是为了防止点积过大导致 softmax 进入饱和区，影响梯度。多头注意力就是把表示拆成多个子空间并行计算，最后再拼接，能从不同角度学习依赖关系。位置编码是因为 Attention 本身不包含顺序信息，所以需要显式加入位置信息。经典做法是正余弦位置编码：现在也常用相对位置编码和 RoPE。梯度消失和梯度爆炸的解决方案包括：残...

原本想以为实习经历就更好找正式了，但是恰恰相反，在boss上面，石沉大海，要么是实习转正，要么必须线下面试，我真没招了，准备跳楼了

最近看到一个很有意思的观点，关于AI时代产品经理的工作方式正在发生巨大变化，结合自己的思考整理一下分享给大家。 传统产品经理是怎么工作的？ 以前产品经理的标准流程是：市场调研 → 竞品分析 → 写PRD → 确定产品路线 → 跟进开发。 之所以是这套流程，根本原因是软件开发的周期长、成本高，中途调方向损失非常大，所以必须"先规划好再动手"。 现在发生了什么变化？ AI的能力进化太快了。 2022年11月ChatGPT刚上线的时候，连一个不出错的HTML页面都很难写出来；到了现在，用Claude Code这样的Agent工具，已经可以独立完成一个前后端完整的中型项目。短短三年...