诺瓦星云提前批笔试

面试完在写面经呢，一看邮件，5分钟的时间给我挂了，笔试也直接给取消了。面试官整个过程都是笑呵呵的，问题也基本答上了，整场体验感挺好的，本来以为稳操胜券，结果被他装糖阴了一手（反问环节还问他后续的面试流程，丢人丢大发了）。整个过程太抽象了，简历项目是一个没问，倒是对我简历上写的个人技能（熟悉什么东西）逐个进行了一次 DFS，越问越离谱，最后跟 AI 应用完全没啥关系了。问的问题太多了，不太能完全回忆起来，只能回忆一下大致有哪些问题，详情如下：1. 简历上写的熟悉 C++ 语言，问的问题：平时用的什么标准的 C++ 语言；是否了解模板；用过什么 STL；set 和 map 是否了解，底层怎么实现的...

面试里如果被问到“为什么Attention要做成多头，而不是单头就够了”，很多人会先回答一句：“因为多个头可以关注不同子空间的信息。”这个方向并没有错，因为我最一开始学算法的时候，也思考过这个问题，但那会儿搜到的也就是这些原理罢了，但问题在于，这个说法太抽象了。面试官如果继续追问一句“什么叫不同子空间？到底不同在哪”，很多人就接不下去了，反正我到毕业写完论文了都没想过这个点。要把这道题答好，其实需要先回答一个更本质的问题：如果只有一个头，究竟会出什么问题？把这个问题讲透，多头注意力的问题也就解答了。（我的回答建议在文末）一、先别急着讲多头，先看单头的瓶颈到底是什么先从单头注意力开始。假设输入序...