面试题简述Transformer中用的是LayerNorm，而不是常见的BatchNorm，这是为什么？面试官想听的意识到不是BN不好，而是不适合Transformer的使用场景。面试回答举例Transformer中选择LayerNorm而不是BatchNorm，主要原因和序列建模方式以及训练场景有关。详情请查看：http://xhslink.com/o/8yJohFzKSX6由浅入深分析1、BN 依赖 batch 统计量。2、LN 只依赖特征维度。3、Transformer 的 token 并行与 BN 设计目标维度不一致。4、自回归推理场景下 BN 表现不稳定。面试加分点1、提出推理阶段 ...

今天九点半到公司，我跟往常一样先扫了眼电脑，屁活儿没有。寻思着没事干，就去蹲了个厕所，回来摸出手机刷了会儿。结果老板刚好路过，拍了我一下说上班别玩手机，我吓得赶紧揣兜里。也就过了四十分钟吧，我的直属领导把我叫到小隔间，上来就给我一句：“你玩手机这事儿把老板惹毛了，说白了，你可以重新找工作了，等下 HR 会来跟你谈。” 我当时脑子直接宕机，一句话都没憋出来。后面 HR 找我谈话，直属领导也在旁边。HR 说我这毛病不是一次两次了，属于屡教不改，不光上班玩手机，还用公司电脑看论文、弄学校的事儿。我当时人都傻了，上班摸鱼是不对，可我都是闲得发慌的时候才摸啊！而且玩手机这事儿，从来没人跟我说过后果这么严重，更没人告诉我在公司学个习也算犯错！连一次口头提醒都没有，哪儿来的屡教不改啊？更让我膈应的是，昨天部门刚开了会，说四个实习生里留一个转正，让大家好好表现。结果今天我就因为玩手机被开了。但搞笑的是，开会前直属领导就把我叫去小会议室，明明白白告诉我：“转正这事儿你就别想了，你的学历达不到我们部门要求，当初招你进来也没打算给你这个机会。”合着我没入贵厂的眼是吧？可我都已经被排除在转正名单外了，摸个鱼至于直接把我开了吗？真的太离谱了！

这一年，代码写得有点多。项目、需求、Bug、版本节点，一层一层叠在一起，时间被切得很碎。很多时候，电脑一合上，脑子里还在想流程有没有问题、逻辑有没有漏掉。所以当元旦假期真的要来的时候，心里反而松了一下。终于可以，先不写代码了。