那你有个强大的心脏

第一天到公司的时候，我自己上楼了(入职邮件说了是哪一层)，到了相应楼层，给导师打电话，导师一脸吃惊，说怎么我就到了，还以为我过段时间才来，导师穿着一双拖鞋，留着长发，稍显随意，导致我对导师的初步印象是：这靠谱吗，哈哈哈给我安排好工位、办公电脑，转一圈认识组里同事之后，我就问导师组里的业务是啥，有没有一些资料让我熟悉一下。起初导师给我发了一些PPT，我看了一两个小时之后，导师突然间走过来，说：“算了，业务太多了，我给你讲讲和组里现在做的比较相关的”。然后花了一个小时，给我梳理了一遍组里的业务和相关专业名词，还给我介绍了整个技术栈。当天中午，导师就带我去饭堂吃饭。吃饭聊了一下，发现我俩没啥代沟，导...

1.说一下 Transformer 的底层结构吧Transformer 的核心是用自注意力代替传统序列模型里的递归结构。一个标准模块通常包含多头自注意力、前馈网络、残差连接和 LayerNorm。自注意力负责让每个 token 和其他 token 直接交互，前馈网络负责做非线性变换，残差和归一化负责保证深层训练稳定。它真正厉害的地方不是结构复杂，而是信息传播路径短，长距离依赖更容易建模，并且天然适合并行训练。2. Transformer 为什么用了 LayerNorm 呢因为 BatchNorm 依赖 batch 维度上的统计量，但 NLP 任务里句子长度不一致，线上推理时 batch 也经常...