面试题简述Transformer中用的是LayerNorm，而不是常见的BatchNorm，这是为什么？面试官想听的意识到不是BN不好，而是不适合Transformer的使用场景。面试回答举例Transformer中选择LayerNorm而不是BatchNorm，主要原因和序列建模方式以及训练场景有关。详情请查看：http://xhslink.com/o/8yJohFzKSX6由浅入深分析1、BN 依赖 batch 统计量。2、LN 只依赖特征维度。3、Transformer 的 token 并行与 BN 设计目标维度不一致。4、自回归推理场景下 BN 表现不稳定。面试加分点1、提出推理阶段 ...

刚找到实习  字节HR就给我打电话了  说我简历通过了可恶 之前BOSS直聘上的说我简历挂了明天好好准备 加油

面试官您好，关于 HashMap 的底层实现，我是按照以下三个维度来理解的：1. 宏观结构 (Overview)从宏观上看，HashMap 的底层结构在 JDK 1.8 中是 “数组 + 链表 + 红黑树”。它的主体是一个 Node 数组（源码中叫 table），数组的每个位置我们称之为“桶”（Bucket）。常规情况：当没有任何冲突时，数据直接存在数组里。Hash 冲突：当发生哈希冲突时，早期的 JDK 1.7 采用的是单纯的链表（头插法）。JDK 1.8 改进：为了解决哈希冲突导致链表过长、查询效率退化为 的问题，JDK 1.8 引入了红黑树。 转换机制：当链表长度 > 8 且 数组...