华为求捞

昨天晚上熬夜到三点 ，终于在截止日期前把大修意见改完了，看着这篇乱七八糟的论文，真的心累，希望能中吧，也不枉我这几天的付出。当代研究生太难了。 #写论文的崩溃时刻#

今天面了莉莉丝校招一面，最后象征性问了一下流程，面试官说5轮面试，我当时直接愣在原地了，我和面试官面面相觑，双方都沉默了三秒钟之后才继续开始。

华为2012，因为没有收到oc有点急，今天去问了一下主管面的主管。想问一下各位牛油，这是养鱼回复吗？二编已收到意向书

面试题简述Transformer中用的是LayerNorm，而不是常见的BatchNorm，这是为什么？面试官想听的意识到不是BN不好，而是不适合Transformer的使用场景。面试回答举例Transformer中选择LayerNorm而不是BatchNorm，主要原因和序列建模方式以及训练场景有关。详情请查看：http://xhslink.com/o/8yJohFzKSX6由浅入深分析1、BN 依赖 batch 统计量。2、LN 只依赖特征维度。3、Transformer 的 token 并行与 BN 设计目标维度不一致。4、自回归推理场景下 BN 表现不稳定。面试加分点1、提出推理阶段 ...