阿里控股实习内推

面试题简述Transformer中用的是LayerNorm，而不是常见的BatchNorm，这是为什么？面试官想听的意识到不是BN不好，而是不适合Transformer的使用场景。面试回答举例Transformer中选择LayerNorm而不是BatchNorm，主要原因和序列建模方式以及训练场景有关。详情请查看：http://xhslink.com/o/8yJohFzKSX6由浅入深分析1、BN 依赖 batch 统计量。2、LN 只依赖特征维度。3、Transformer 的 token 并行与 BN 设计目标维度不一致。4、自回归推理场景下 BN 表现不稳定。面试加分点1、提出推理阶段 ...

先上核心结果，省得大家翻：✅ 面试情况：投递数十家，仅8家给到面试机会✅ Offer清单：腾讯（转正）、字节跳动、小红书、蔚来、大疆、影石、小米❌ 泡池/排序挂：米哈游、京东❌ 简历挂：美团、快手、拼多多等N家（懂的都懂，秋招简历关是真地狱）先聊聊两个印象最深的“泡池挂”经历吧：米哈游三面基本全程聊天模式，面试官还给了超久的反问时间，当时聊得特别舒服，以为稳了，结果泡了三周池子后还是挂了，大概率是学历卡壳了，有点可惜但也能接受；京东二面被追问了大量C++问题，这不是我的主力语言，很多问题没答好，之后泡了一周池子也挂了，算是意料之中的遗憾。决赛圈&薪资：腾讯、字节、小红书三选一三家给的都...