留子春招all in Day1 2.18

面试题简述Transformer中用的是LayerNorm，而不是常见的BatchNorm，这是为什么？面试官想听的意识到不是BN不好，而是不适合Transformer的使用场景。面试回答举例Transformer中选择LayerNorm而不是BatchNorm，主要原因和序列建模方式以及训练场景有关。详情请查看：http://xhslink.com/o/8yJohFzKSX6由浅入深分析1、BN 依赖 batch 统计量。2、LN 只依赖特征维度。3、Transformer 的 token 并行与 BN 设计目标维度不一致。4、自回归推理场景下 BN 表现不稳定。面试加分点1、提出推理阶段 ...

最后再看下工位，就走吧

数组越界：C++不做数组边界检查，定义int arr[5]，下标范围是0~4，访问arr[5]会篡改内存数据。循环逻辑问题：循环终止条件错误（如for(int i=0;i<=5;i++)本想循环5次，实际循环6次）；循环变量未更新（如while循环内忘写i++，导致死循环）。条件判断易错：把赋值号=当判断号==（如if(a=1)恒为true，逻辑完全偏离）；多条件判断漏写逻辑符（如想判断a>0且a<10，误写if(a>0 a<10)）。指针相关坑：指针未初始化直接使用（野指针，操作会崩溃）；new申请堆内存后，忘用delete释放（内存泄漏）；重复delete同一...