面试题简述Transformer中用的是LayerNorm，而不是常见的BatchNorm，这是为什么？面试官想听的意识到不是BN不好，而是不适合Transformer的使用场景。面试回答举例Transformer中选择LayerNorm而不是BatchNorm，主要原因和序列建模方式以及训练场景有关。详情请查看：http://xhslink.com/o/8yJohFzKSX6由浅入深分析1、BN 依赖 batch 统计量。2、LN 只依赖特征维度。3、Transformer 的 token 并行与 BN 设计目标维度不一致。4、自回归推理场景下 BN 表现不稳定。面试加分点1、提出推理阶段 ...

三番五次邀请我，诚意很大的感觉。结果一看已经投了俩月了。哈哈哈哈哈哈哈哈哈哈哈哈哈哈哈哈哈哈哈顺便输出一下我的Offer List：[]挑战全网最少

月度记录1-3月参加字节青训营，真正意义上做了我的第一个项目，这是我后续历程很重要的一个开始4-6月开始投简历笔试面试，并参与了第一次实习，虽然这段实习很草率也很垃圾，但也帮我对实习祛魅了7-9月开始第二段实习，这次公司很好，大平层+友好的文化氛围，可惜选错部门了，没啥含金量（当然我也没干多少正事）10-11月正式参加秋招，显而易见已经来晚了，再加上我的实习一坨，中大厂无缘了，不过还是收获了四份小厂offer，薪资均为8-10k之间12月开始最后一段实习，同时备战春招（当然也考虑转正保底）大事件记录实习自不必说，实习必然是今年一大事件，收获很多，踩坑也很多，不管如何，也非常感谢这几家公司愿意给...