面试题简述Transformer中用的是LayerNorm，而不是常见的BatchNorm，这是为什么？面试官想听的意识到不是BN不好，而是不适合Transformer的使用场景。面试回答举例Transformer中选择LayerNorm而不是BatchNorm，主要原因和序列建模方式以及训练场景有关。详情请查看：http://xhslink.com/o/8yJohFzKSX6由浅入深分析1、BN 依赖 batch 统计量。2、LN 只依赖特征维度。3、Transformer 的 token 并行与 BN 设计目标维度不一致。4、自回归推理场景下 BN 表现不稳定。面试加分点1、提出推理阶段 ...

之前以为这种情况都是网上开玩笑的，现在真让我遇到了

目前有百度 base 北京offer 拒了字节这个hr面，跟我说明年的实习生hc不多，可能只能让我实习两到三个月，而且貌似表现出来的意思是要我进去快速上手开发。目前还有，美团，腾讯，阿里，快手，小红书的在推进。不知道字节这个要不要去。大佬们怎么看，base北京tag，字节，腾讯，美团，阿里

最近年底，各个大厂基本都在忙着年度述职，这里可以和大家科普一下，所谓的年度述职就是在老板面前汇报你这一年的工作，你这一年都干了 什么 ，当初给你制定的目标（OKR） 有没有完成呀等等。一般就是写个文档或者ppt然后组内轮流汇报，也就相当于期末考试了，最后的成绩是关联你的年终奖的。所以那些15薪18薪的，多出来的几个月工资你能不能拿的满是要看你今年的表现的，表现的好可能拿满或者拿到120%，表现得不好可能就拿到80%或者50%，再或者没有年终奖得也不是没有可能。一直都在比然后从上面的述职就想到了从小到大我们一直在被要求超过别人，从上学的考试成绩，到上班拿多少得薪资，再到结婚找了个多好得对象，再往...