迪子小牛马工程师

停下来就有负罪感？明明是周末，躺在床上刷手机却觉得心慌； 看到同龄人升职加薪、晒offer，第一反应不是祝福，而是焦虑自己“被落下了”； 潜意识里觉得：如果不优秀，我就不配被爱；如果不成功，我就是个loser。优绩主义给我们编织了一个完美的谎言：只要你努力，就能成功；如果你没成功，那就是你不够努力。但这太残酷了，也太傲慢了。 它忽略了运气、忽略了环境、忽略了起跑线的不同。它让我们变成了在这个系统里疯狂奔跑的仓鼠，不敢停下，生怕被甩出转轮。回看这一年，我像是个被上了发条的玩偶，却不知道开关在哪。 4月： 开始备战实习，焦虑的种子埋下； 实习期： 以为上岸会轻松，结果压力不降反增，每天都在自我怀疑...

做个记录

面试题简述Transformer中用的是LayerNorm，而不是常见的BatchNorm，这是为什么？面试官想听的意识到不是BN不好，而是不适合Transformer的使用场景。面试回答举例Transformer中选择LayerNorm而不是BatchNorm，主要原因和序列建模方式以及训练场景有关。详情请查看：http://xhslink.com/o/8yJohFzKSX6由浅入深分析1、BN 依赖 batch 统计量。2、LN 只依赖特征维度。3、Transformer 的 token 并行与 BN 设计目标维度不一致。4、自回归推理场景下 BN 表现不稳定。面试加分点1、提出推理阶段 ...