最近读了腾讯写的文章，简单自己做了下总结和理解，又有了新的输入，不愧是腾讯👍 一、学到的核心知识 1. 大模型推理的两大基石  Continuous Batching（连续批处理）：传统批处理要求一个 batch 内所有请求"同时开始、同时结束"，但 LLM 输出长度不可预测，会浪费 GPU。vLLM 把调度粒度从 request level 下沉到 token level——每一步看哪些请求"差几个 token"，就调度几个 token，把短请求填进 batch 的空隙里。 Paged Attention：传统做法一次为请求申请全部显存，碎片严重；P...

牛友们，这是不是坑啊，实习完了把我开了咋办

211本硕+3实习+3项目=路边一条😋

先说一下我是谁——双非本，正在秋招，已经面了一堆。这两场算有点料的，一场阿里一场CVTE，一个京杭系一个广州系，风格差得离谱。复盘一下，给后面要面的兄弟省点劲。两场都没拿offer（笑），但题是真题，坑是真坑。—阿里那场一个多小时，节奏跟小厂完全不一样。小厂喜欢问"你做过什么"，阿里上来就抠你"你说的这个东西，本质是什么"。第一题就摔了。问进程和线程的区别。我下意识背了句"进程是资源分配的基本单位，线程是CPU调度的基本单位"——面试官停了两秒：用自己的话讲。我才反应过来——这种书面定义脱口而出，等于自杀。后面他让我从内存角度讲，从隔...