内推通道，浩鲸科技

面试题简述Transformer中用的是LayerNorm，而不是常见的BatchNorm，这是为什么？面试官想听的意识到不是BN不好，而是不适合Transformer的使用场景。面试回答举例Transformer中选择LayerNorm而不是BatchNorm，主要原因和序列建模方式以及训练场景有关。详情请查看：http://xhslink.com/o/8yJohFzKSX6由浅入深分析1、BN 依赖 batch 统计量。2、LN 只依赖特征维度。3、Transformer 的 token 并行与 BN 设计目标维度不一致。4、自回归推理场景下 BN 表现不稳定。面试加分点1、提出推理阶段 ...

📝 面试经历： 面试官都很友好，说是面试但更像是在交流所学和应用在项目中的知识技能，不拘泥于八股文更偏向实际应用一些，能和小组组长和总监直接交流也是一份有价值的经历。 🌟 工作氛围： 工作氛围很好同事交流起来都很轻松和谐，大佬都很谦逊问很基础的问题也耐心解答，工作强度有但不算很高，平时也有很多时间去做自己感兴趣的事，能实现work life balance~ 🌱 新人融入提升： ◎新人有充足的时间学习实际项目中的操作内容，有不懂的问题可以向导师、同事提问，大家都乐于帮忙解惑； ◎丰富的腾讯iwiki资料和众多内部录屏资料能帮助新人快速了解和上手项目，在文档中找到项目或工具负责人后可以在企...