网易笔试四道ak

更偏推理基础、工程细节和 CUDA 手写题这场百度 AI Infra 一面，整体感受是节奏很快，前半段主要围绕简历里的项目和实习经历往下问，后半段会明显转到一些更偏推理基础和工程理解的问题，最后还加了一道 CUDA 的手写题。面试官一开始先介绍了团队，说他们在百度智能云下面，训练、推理、强化学习、Agent 这些 AI Infra 相关方向基本都覆盖到了，所以一上来的感觉就是，这不是只盯某一个小点的岗位，而是一个工作面比较宽的 Infra 团队。正式开始之后，前面还是从我现在做的事情切进来，重点还是摩尔线程这段实习。面试官先问我怎么理解自己在做的这个 TensorFlow MUSA Exten...

timeline3.9投递3.19一面3.31二面4.1告知二面通过免三面4.2hr面4.3oc人生第一次面试就是字节，没想到最后竟然能oc。（ 免三面真的很意外😳）

这一轮更偏大模型、量化和推理基础理解这场蚂蚁 AI Infra 三面，整体感觉和前两轮又不太一样。前两轮更多是在深挖我已经做过的项目，这一轮虽然也会问项目，但明显更关注我对大模型推理、量化、KV Cache、attention 这些基础问题到底理解到什么程度。开头还是先做自我介绍，我主要讲了自己现在在做的几个方向：一段偏工程化的软件开发经历，一段偏算子和图优化的实习经历，以及自己在做的一个基于 Python extension 的量化推理 runtime 小项目。这一轮项目部分问得相对直接。面试官先让我展开讲了自己做的那个量化推理 runtime。我这边讲的是，基于一个开源 runtime 做...