这一轮更偏大模型、量化和推理基础理解这场蚂蚁 AI Infra 三面，整体感觉和前两轮又不太一样。前两轮更多是在深挖我已经做过的项目，这一轮虽然也会问项目，但明显更关注我对大模型推理、量化、KV Cache、attention 这些基础问题到底理解到什么程度。开头还是先做自我介绍，我主要讲了自己现在在做的几个方向：一段偏工程化的软件开发经历，一段偏算子和图优化的实习经历，以及自己在做的一个基于 Python extension 的量化推理 runtime 小项目。这一轮项目部分问得相对直接。面试官先让我展开讲了自己做的那个量化推理 runtime。我这边讲的是，基于一个开源 runtime 做...

目标后端

秋招泡死了，有没有帅气美丽的hr捞捞我和我的姐妹

1. 自我介绍2. 项目拷打3. 你怎么理解现在的大语言模型，它和传统 NLP 系统最大的分水岭是什么现在的大语言模型本质上不只是一个“更大的文本分类器”或者“更强的生成器”，而是把表征学习、任务迁移和自然语言接口统一到了一个模型里。传统 NLP 往往是一任务一模型，文本分类、命名实体识别、问答、摘要各做各的，大模型则是在大规模预训练后，通过提示、工具调用、少样本样例甚至简单微调完成大量任务迁移。真正的分水岭不在参数量，而在它具备了统一接口、上下文学习和任务泛化能力，所以很多原来需要显式建模的流程，现在可以交给模型做一层高层抽象，但代价是可控性和确定性下降。4. 如果要让模型真正“理解”你的业...