面试题简述Transformer中用的是LayerNorm，而不是常见的BatchNorm，这是为什么？面试官想听的意识到不是BN不好，而是不适合Transformer的使用场景。面试回答举例Transformer中选择LayerNorm而不是BatchNorm，主要原因和序列建模方式以及训练场景有关。详情请查看：http://xhslink.com/o/8yJohFzKSX6由浅入深分析1、BN 依赖 batch 统计量。2、LN 只依赖特征维度。3、Transformer 的 token 并行与 BN 设计目标维度不一致。4、自回归推理场景下 BN 表现不稳定。面试加分点1、提出推理阶段 ...

小骑手是如何在暑期实习里面，以双非学历横向竞争过组内几位92的实习生，杀出重围成功拿到阿里offer的？上篇篇幅有限所有另开一帖详细分享一下小骑手的实习转正述职文档和答辩心得。因为需要转正答辩，小骑手在阿里最大的收获其实是学会了如何述职如何写产出。对于实习，不干活只思考都比只思考不干活要好！实习期间每个人都会有自己1v1的师兄带着熟悉，安排的需求也都是以一个模块作为切入点深入后进行展开的，师兄与ld其实都素不相识，不会偏袒某个人，给他安排更有挑战的活或者产出多的活，所以每个实习生实际上干的活并不会相差太多，没有那么CRUD但也不会太过复杂。那么在有限的需求里，转正答辩文档要怎么去构建和丰富？小...