先搞懂：为什么需要位置编码？Transformer 模型本身是 位置无关 的！它不知道哪个词在前，哪个词在后。比如 "我喜欢吃苹果" 和 "苹果喜欢吃我" Transformer 会认为这两个句子的结构完全一样，因为它只关心词与词之间的关系，不关心顺序。但实际上这两个句子的意思完全不同！所以需要 位置编码 来告诉模型每个词的位置信息传统位置编码问题方案1：学习型位置编码，初始化一个位置向量，全程全靠train给每个位置随机初始化一个向量让模型自己学习每个位置应该是什么样的❌ 缺点：只能处理训练时见过的长度，遇到更长的句子就傻眼了方案2：正弦位置编码用三角...

目标后端

一面3.11 45min1、拷打实习2、拷打实验室项目3、AOP、IOC4、Websocket和SSE5、DNS解析域名的流程6、基于UDP和TCP有哪些应用层协议7、completeableFuture的原理8、TD的原理，和MySQL的区别9、虚拟内存，段页式的优势和劣势10、 索引失效的场景11、Syn和AQS的区别12、spec的开发流程13、MongoDB的底层原理（不会）14、手撕：岛屿数量15、反问二面 3.16 75min1、过实习和项目2、AB测试3、kafka怎么防止丢消息4、https的握手过程5、如果你的室友正在访问一个http的网站，你怎么恶搞一下他6、kafka的I...