面试题简述Transformer中用的是LayerNorm，而不是常见的BatchNorm，这是为什么？面试官想听的意识到不是BN不好，而是不适合Transformer的使用场景。面试回答举例Transformer中选择LayerNorm而不是BatchNorm，主要原因和序列建模方式以及训练场景有关。详情请查看：http://xhslink.com/o/8yJohFzKSX6由浅入深分析1、BN 依赖 batch 统计量。2、LN 只依赖特征维度。3、Transformer 的 token 并行与 BN 设计目标维度不一致。4、自回归推理场景下 BN 表现不稳定。面试加分点1、提出推理阶段 ...

如何呢

南京恒电电子1-管培生（生产管理方向）-南京 1-9.15投递芯上微装1-机械设计工程师-上海 放弃 1-9.15投递国睿科技1-结构总体-南京 1-9.15投递-9.15测评-9.15AI面试江波龙1-结构工程师-深圳 1-9.15投递埃夫特机器人1-机械设计工程师-芜湖 1-9.15投递中电10所1-结构设计师-成都 放弃 1-9.15投递-9.15测评维谛技术1-结构工程师-江门 1-9.15投递-9.21笔试海四达电源1-质量工程师-启东 1-9.15投递江南造船1-校招投递通道（本硕）(J10189)-上海 放弃 1-9.15投递富冶集团1-机械工程/ 机械电子工程（硕士）-杭州 1...