最近读了腾讯写的文章，简单自己做了下总结和理解，又有了新的输入，不愧是腾讯👍 一、学到的核心知识 1. 大模型推理的两大基石  Continuous Batching（连续批处理）：传统批处理要求一个 batch 内所有请求"同时开始、同时结束"，但 LLM 输出长度不可预测，会浪费 GPU。vLLM 把调度粒度从 request level 下沉到 token level——每一步看哪些请求"差几个 token"，就调度几个 token，把短请求填进 batch 的空隙里。 Paged Attention：传统做法一次为请求申请全部显存，碎片严重；P...

29届学院本，想找暑假实习。java真的不能去搞agent吗

很多人实习结束后都会陷入一个误区：觉得自己每天都在重复打杂、整理数据、改边角bug、帮忙跑流程，忙活一两个月，最后简历空空如也，没有任何能拿出手的含金量产出。其实真不是大厂不给机会，而是大多数实习生太被动，等着导师派活、等着别人教、等着任务上门。我这段时间的实习最大感悟：实习的产出从来不是等来的，是自己主动问、主动学、主动揽来的。哪怕只是普通业务岗、后端基础岗实习生，只要找对方法，完全能把无效打杂，变成能写进简历的硬核成果。首先，所有实习成长的核心，一定是啃透部门文档，这是最快出产出、最容易被忽略的捷径。绝大多数新人入职，扫两眼文档就觉得枯燥难懂，转头就等着导师安排简单活混日子。但部门文档是整...