最近读了腾讯写的文章，简单自己做了下总结和理解，又有了新的输入，不愧是腾讯👍 一、学到的核心知识 1. 大模型推理的两大基石  Continuous Batching（连续批处理）：传统批处理要求一个 batch 内所有请求"同时开始、同时结束"，但 LLM 输出长度不可预测，会浪费 GPU。vLLM 把调度粒度从 request level 下沉到 token level——每一步看哪些请求"差几个 token"，就调度几个 token，把短请求填进 batch 的空隙里。 Paged Attention：传统做法一次为请求申请全部显存，碎片严重；P...

有什么需要注意的吗？去研究豆包了

组内的一起实习的一个同事，日常的沟通中，总是叫我亲亲，亲爱的，隔三差五也喊我一起吃饭，定奶茶，日常相处感觉还挺友好的，感觉对我和对别人不一样，是不是对我有意思呀？要不要趁今天520，表个白？或者怎么试探一下呢？牛友们帮忙支个招，不至于我会错意了，连朋友都没得做

设想一下下面这几种你大概遇到过的“公开处刑”场景：饭局上突然被点名敬酒，你端着杯子站起来，大脑一片空白，最后只能憋出一句“大家吃好喝好”，然后尴尬地一口闷；开会时领导突然让你“说两句”，你瞬间心跳加速、语无伦次，坐下后连自己都不知道刚才说了些什么。如果你是个比较容易内耗的人，回忆完这俩场景，大概率后背已经开始潮湿了。其实还好，别觉得不好意思，绝大多数人其实都在这里栽过坑。我们经常说“场面话”这个词，可能把他有点丑化了，它本质上不是虚伪逢迎，而是一套通过语言传递情绪价值，帮你打破社交僵局的逻辑。前阵子抖音上刷了个视频教人怎么说场面话，所以简单总结一下内容，说不定最近毕业季，导师请吃饭就能用上。一...