这一轮更偏大模型、量化和推理基础理解这场蚂蚁 AI Infra 三面，整体感觉和前两轮又不太一样。前两轮更多是在深挖我已经做过的项目，这一轮虽然也会问项目，但明显更关注我对大模型推理、量化、KV Cache、attention 这些基础问题到底理解到什么程度。开头还是先做自我介绍，我主要讲了自己现在在做的几个方向：一段偏工程化的软件开发经历，一段偏算子和图优化的实习经历，以及自己在做的一个基于 Python extension 的量化推理 runtime 小项目。这一轮项目部分问得相对直接。面试官先让我展开讲了自己做的那个量化推理 runtime。我这边讲的是，基于一个开源 runtime 做...

还有一些简历挂的没放出来鼠鼠我太菜了

1. 做一下自我介绍2. 如果一个核心链路已经同步调用很多下游了，为什么还要引入消息队列，而不是继续堆线程池消息队列真正解决的不是“异步”两个字，而是削峰、解耦、容错和流量治理。同步链路堆线程池只能把等待成本从调用方挪到自己进程里，并不能改变系统容量边界；一旦下游抖动，请求会在调用链上层层堆积，最终把连接池、线程池和网关超时一起拖崩。引入 MQ 后，主链路可以只做核心事务，非核心逻辑异步化，下游能力不足时也能通过堆积和消费速率控制做缓冲。不过 MQ 不是银弹，如果业务要求强一致、低延迟、同步结果可见，盲目异步反而会把复杂度转移到补偿和状态机里。3. 从生产端到消费端，怎么把“消息不丢”这件事讲...