笔试的问题

题目1：分词

昨天下午hr给我打了个电话约面试，双非本第一次面大厂 一面难度怎么样各位大佬 孩子算法还没怎么刷呢

10.17，睿联科技，挂10.30，柠檬微趣，挂11.11，最右，挂。目前还有三家流程中或者等面试😅双非秋招基本没什么面试的，只能沉下心等机会了，锻炼自己对事情悬而未决的耐心，也会成为以后的优势。正如李明博所说，我将其视为贫穷送给我的礼物。

面试题简述Transformer中用的是LayerNorm，而不是常见的BatchNorm，这是为什么？面试官想听的意识到不是BN不好，而是不适合Transformer的使用场景。面试回答举例Transformer中选择LayerNorm而不是BatchNorm，主要原因和序列建模方式以及训练场景有关。详情请查看：http://xhslink.com/o/8yJohFzKSX6由浅入深分析1、BN 依赖 batch 统计量。2、LN 只依赖特征维度。3、Transformer 的 token 并行与 BN 设计目标维度不一致。4、自回归推理场景下 BN 表现不稳定。面试加分点1、提出推理阶段 ...