字节-产品运营实习生-作者增长

面试题简述Transformer中用的是LayerNorm，而不是常见的BatchNorm，这是为什么？面试官想听的意识到不是BN不好，而是不适合Transformer的使用场景。面试回答举例Transformer中选择LayerNorm而不是BatchNorm，主要原因和序列建模方式以及训练场景有关。详情请查看：http://xhslink.com/o/8yJohFzKSX6由浅入深分析1、BN 依赖 batch 统计量。2、LN 只依赖特征维度。3、Transformer 的 token 并行与 BN 设计目标维度不一致。4、自回归推理场景下 BN 表现不稳定。面试加分点1、提出推理阶段 ...

本人靠吹牛已经得到了3个offer，总结一下，一个月的经验说成三个月，甚至半年，面试之前一定自己调查下工作内容、方法论、专业术语之类的，大致了解，最好还能理解着背下来。最主要的是不能怯场，一定要看着面试官的眼睛，保持松弛感。其实hr每天接触太多人了，干多了自然会知道你行不行，但是就是要装做自己很行，要给hr一点信心，让他敢给你一个机会

总感觉自己没有被尊重