面试题简述Transformer中用的是LayerNorm，而不是常见的BatchNorm，这是为什么？面试官想听的意识到不是BN不好，而是不适合Transformer的使用场景。面试回答举例Transformer中选择LayerNorm而不是BatchNorm，主要原因和序列建模方式以及训练场景有关。详情请查看：http://xhslink.com/o/8yJohFzKSX6由浅入深分析1、BN 依赖 batch 统计量。2、LN 只依赖特征维度。3、Transformer 的 token 并行与 BN 设计目标维度不一致。4、自回归推理场景下 BN 表现不稳定。面试加分点1、提出推理阶段 ...

😭😭😭😭捞一捞孩子吧，可以出省，接受外包，捞一捞吧捞一捞吧!

“穿这身会不会太正式/太随意？”“到了公司第一句话说什么？”“要是没人理我怎么办？”入职的第一天，相信很多人都在这样的自我拷问中度过。推开门，走进陌生的办公区，看着来来往往忙碌的身影，瞬间就会被我是谁、我在哪、我要干嘛的迷茫包裹，但是但是，这不是你的问题，而是几乎每个职场新人都要经历的入职阵痛。不用怕，这种紧张和不安恰恰说明你重视这份工作。入职第一天的核心不是立刻做出成绩，而是完成自适应：快速摸清环境、明确方向、建立初步联结。那么接下来，我来帮你把手足无措变成心中有数。一、先搞懂公司是你未来要扎根的地方入职第一天最该做的第一件事，是跳出我是外人的视角，主动去了解你即将奋斗的这个阵地。以此消除陌...