面试里如果被问到“为什么Attention要做成多头，而不是单头就够了”，很多人会先回答一句：“因为多个头可以关注不同子空间的信息。”这个方向并没有错，因为我最一开始学算法的时候，也思考过这个问题，但那会儿搜到的也就是这些原理罢了，但问题在于，这个说法太抽象了。面试官如果继续追问一句“什么叫不同子空间？到底不同在哪”，很多人就接不下去了，反正我到毕业写完论文了都没想过这个点。要把这道题答好，其实需要先回答一个更本质的问题：如果只有一个头，究竟会出什么问题？把这个问题讲透，多头注意力的问题也就解答了。（我的回答建议在文末）一、先别急着讲多头，先看单头的瓶颈到底是什么先从单头注意力开始。假设输入序...

拼多多测试一面，

这个简历还能找得到工作吗？😭  

项目拷打  简单聊聊项目设计思路，具体如何实现的？  然后没有深入聊了，问熟悉哪些中间件或者技术栈。谈到MySQL和Redis MySQL  解释一下什么是索引 追问索引树叶子节点和非叶子节点分别存储什么？ B+树和B树索引有哪些区别？ 说下什么是MySQL中的事务 前面我提到了undo log和redo log，追问binlog是做什么用的？ 知道什么是联合索引吗？  手撕  关于前面的联合索引题，现在有联合索引abcd，给定sql语句 select a，b from t where a = 1 and b = 2 and c > 3 and d = 4.请问这里用到了哪些列的索引？ ...