面试题简述Transformer中用的是LayerNorm，而不是常见的BatchNorm，这是为什么？面试官想听的意识到不是BN不好，而是不适合Transformer的使用场景。面试回答举例Transformer中选择LayerNorm而不是BatchNorm，主要原因和序列建模方式以及训练场景有关。详情请查看：http://xhslink.com/o/8yJohFzKSX6由浅入深分析1、BN 依赖 batch 统计量。2、LN 只依赖特征维度。3、Transformer 的 token 并行与 BN 设计目标维度不一致。4、自回归推理场景下 BN 表现不稳定。面试加分点1、提出推理阶段 ...

去体验实习不要抱着拿offer的希望，就当去广州旅游整个部门的体验实习生全挂，我真没招了哈哈三天做完一个考核项目然后演示答辩，每天下班还拿电脑回宿舍做到半夜，基本功能全做完了，进阶功能就差一两点没做。隔天就发感谢信，你拿这点钱搁着招神仙呢？

“你好，我是字节前经理，看你简历非常亮眼，可以内推你进字节”“免费的不保证能进，5000元保证你能进字节，你看看要不要？”……💢我什么水平，我能进字节呵呵🙂，有这5k我打水漂都听不到响声