面试题简述Transformer中用的是LayerNorm，而不是常见的BatchNorm，这是为什么？面试官想听的意识到不是BN不好，而是不适合Transformer的使用场景。面试回答举例Transformer中选择LayerNorm而不是BatchNorm，主要原因和序列建模方式以及训练场景有关。详情请查看：http://xhslink.com/o/8yJohFzKSX6由浅入深分析1、BN 依赖 batch 统计量。2、LN 只依赖特征维度。3、Transformer 的 token 并行与 BN 设计目标维度不一致。4、自回归推理场景下 BN 表现不稳定。面试加分点1、提出推理阶段 ...

太棒了      

✅投递：内推链接一键投递，欢迎联系：https://careers.aliyun.com/campus/qrcode/home?code=zur3rFlvZDZFVvuDycNhQmsHcFMDrXzWfL2ja6ebV9Q%3D阿里云基础研发一面挂经上周面的，那边说经历很匹配光速约面（4号晚上投 约5号晚上面，等到9号给挂了）－项目实习项目，具体做了什么－八股详细介绍下，Linux下，进程根据相对文件路径如何找到文件，打开，硬盘寻址，加载到内存，存储到其他地方的过程（答的不好，凭自己不多的os知识胡诌了些）－手撕最长无重复子串，没啥好说的最近这几家都喜欢让人拿go写题，咱就是说go写力扣题是...