最近读了腾讯写的文章，简单自己做了下总结和理解，又有了新的输入，不愧是腾讯👍 一、学到的核心知识 1. 大模型推理的两大基石  Continuous Batching（连续批处理）：传统批处理要求一个 batch 内所有请求"同时开始、同时结束"，但 LLM 输出长度不可预测，会浪费 GPU。vLLM 把调度粒度从 request level 下沉到 token level——每一步看哪些请求"差几个 token"，就调度几个 token，把短请求填进 batch 的空隙里。 Paged Attention：传统做法一次为请求申请全部显存，碎片严重；P...

一个项目够吗，是不是至少要两个？有没有推荐的ai项目呢？

有人问我每天找实习都上哪些网站。 我截了张浏览器书签栏，发现三个月前有一大排，现在常点的就剩几个。 第一个，一个每天更新的汇总表。之前我收藏了七八个公众号、三个求职群、两个论坛，每天来回切。现在早上睁眼先刷这个表，五分钟知道今天哪些公司开了、哪些快截止了。其他的？取关了。不是他们不好，是我懒得一个个翻了。第二个，我自己搭的飞书表格。很丑，但实用。公司名、岗位、投了没、到哪一步了、下次该干嘛。之前用脑子记，记到第十五家的时候彻底乱了。现在表格一打开，清清楚楚。 第三个，我的简历文件夹。里面躺着三份简历：前端偏工程版、前端偏可视化版、全栈版。投哪家用哪个，看岗位JD决定。之前一份简历投所有，挂得怀...