暑期实习，华为的状态码变了

面试里如果被问到“为什么Attention要做成多头，而不是单头就够了”，很多人会先回答一句：“因为多个头可以关注不同子空间的信息。”这个方向并没有错，因为我最一开始学算法的时候，也思考过这个问题，但那会儿搜到的也就是这些原理罢了，但问题在于，这个说法太抽象了。面试官如果继续追问一句“什么叫不同子空间？到底不同在哪”，很多人就接不下去了，反正我到毕业写完论文了都没想过这个点。要把这道题答好，其实需要先回答一个更本质的问题：如果只有一个头，究竟会出什么问题？把这个问题讲透，多头注意力的问题也就解答了。（我的回答建议在文末）一、先别急着讲多头，先看单头的瓶颈到底是什么先从单头注意力开始。假设输入序...

🏢 1.5 - 字节跳动 - 番茄小说（后端开发） 面试状态：一面（已挂，1.7 收到感谢信） 🗣️ 1. 自我介绍 常规自我介绍。 💻 2. 算法题（手撕代码） ① 数字串转化为字符串  题目描述：给出一个数字串（如 12322），要求给出所有可能的对应字符串组合（输出数组）。例如 12322，输出要列出 1 2 3 2 2 对应的字母 abcaa，12 3 2 2 对应 lcaa 等等。 结果：想了 5 分钟没思路，面试官主动提出换题。  ② 翻转字符串里的单词（URL倒置）  题目链接：************************ 结果：想了 5 分钟，在面试官指引下说出思路。...