一、什么是"工贼"在牛客或者各种打工人聚集的论坛上，"工贼"是一个有点黑色幽默的词。它最早是从工人运动里来的——指那些在罢工期间还继续上工、破坏集体行动的人。被搬到互联网行业之后，它变成了另一种含义：那些主动加班的人，那些不到点不下班的人，那些周末还在写技术博客的人，那些 mentor 没安排活也要主动找活的人，那些在公司里争取更多权限和责任的人，那些下班回家还在跑 demo 的人。简单说，工贼就是那些"明明可以摸鱼但偏偏要卷"的人。在很多人的叙事里，工贼破坏的是行业的"打工人共识"——大家本来可以一起准点下班、一...

可能是我见识太少了

究极折磨，缓了三天才想起在牛客发布。

最近读了腾讯写的文章，简单自己做了下总结和理解，又有了新的输入，不愧是腾讯👍 一、学到的核心知识 1. 大模型推理的两大基石  Continuous Batching（连续批处理）：传统批处理要求一个 batch 内所有请求"同时开始、同时结束"，但 LLM 输出长度不可预测，会浪费 GPU。vLLM 把调度粒度从 request level 下沉到 token level——每一步看哪些请求"差几个 token"，就调度几个 token，把短请求填进 batch 的空隙里。 Paged Attention：传统做法一次为请求申请全部显存，碎片严重；P...