面试题简述Transformer中用的是LayerNorm，而不是常见的BatchNorm，这是为什么？面试官想听的意识到不是BN不好，而是不适合Transformer的使用场景。面试回答举例Transformer中选择LayerNorm而不是BatchNorm，主要原因和序列建模方式以及训练场景有关。详情请查看：http://xhslink.com/o/8yJohFzKSX6由浅入深分析1、BN 依赖 batch 统计量。2、LN 只依赖特征维度。3、Transformer 的 token 并行与 BN 设计目标维度不一致。4、自回归推理场景下 BN 表现不稳定。面试加分点1、提出推理阶段 ...

已经连续找了好多天，很少有已读消息的甚至

谢谢各位大佬

TLDR：如果是做LLM等热门方向的同学，直接看 @丁霄汉 的分享就行了。 丁博无敌。BG：双9做系统相关，有相关实习，论文算中位数水平？目前Offer情况：🔵青云9，🌸18，🟠6+，🎶2—2，...写这篇文章还是那个目标：和大家分享一些非头部水平的普通博士生秋招经验。实习+秋招一共面了小五十场，加了快20个HR。其实我BG挺一般，但今年可能也因为整体行情起来了，所以最终结果还是比较满意。时间线：我秋招基本9月中旬开始面，密集期到10月底结束。11月到1月还有一些零散面试（基本是特殊面试，比如各种加面）。今年整体都比较晚，我也比较佛系，没怎么催过流程。各家HR在决定时间上普遍也给了很大...