专业名称的影响

面试题简述Transformer中用的是LayerNorm，而不是常见的BatchNorm，这是为什么？面试官想听的意识到不是BN不好，而是不适合Transformer的使用场景。面试回答举例Transformer中选择LayerNorm而不是BatchNorm，主要原因和序列建模方式以及训练场景有关。详情请查看：http://xhslink.com/o/8yJohFzKSX6由浅入深分析1、BN 依赖 batch 统计量。2、LN 只依赖特征维度。3、Transformer 的 token 并行与 BN 设计目标维度不一致。4、自回归推理场景下 BN 表现不稳定。面试加分点1、提出推理阶段 ...

面试时候的手撕其实很少出得特别难，基本都是middle，考验你的基础，所以这里面是有一些高频考点的，我根据个人经历整理了一些比较通用的经典的手撕。🛠️ 数据结构与算法（典中典）LRU缓存 ：HashMap 存值，双向链表 存序。思路： 读写都把节点拔出来插到链表头，容量满了删链表尾。K个一组翻转链表： 递归/迭代 + 局部翻转。思路： 够K个就断开翻转，不够直接还回；递归拼接下一组的结果。合并K个升序链表： 最小堆 (PriorityQueue)。思路： 把所有链表的头结点扔进堆里，每次弹最小的连上，把它的next再扔进去。无重复字符的最长子串： 滑动窗口 + 哈希/Set。思路： 右指针狂...