最近读了腾讯写的文章，简单自己做了下总结和理解，又有了新的输入，不愧是腾讯👍 一、学到的核心知识 1. 大模型推理的两大基石  Continuous Batching（连续批处理）：传统批处理要求一个 batch 内所有请求"同时开始、同时结束"，但 LLM 输出长度不可预测，会浪费 GPU。vLLM 把调度粒度从 request level 下沉到 token level——每一步看哪些请求"差几个 token"，就调度几个 token，把短请求填进 batch 的空隙里。 Paged Attention：传统做法一次为请求申请全部显存，碎片严重；P...

国内这个AI风气太夸张了吧，大家公司内部全部都用AI吗？实习生也能畅用吗？

好吧，其实都是标题党骗人的...投了几十份简历，几百+交流了，一个约面的中厂小厂都没有，已经毫无希望了，准备冒充27届去当黑奴了，各位！只有极各位公司纯黑奴要，又不是很想去😭好难啊各位

hr给我捞走了，去别的组了面试问能不能接受日常（内心os：只要是字节去哪都行）中国交易与广告方向--客户端日常实习（和前面的压力面一个天一个地，这次的面试我也不知道怎么评价）非常神奇的一次面试，因为我是国外的大学，他上来也没让我自我介绍，问我为啥不去后端来客户端，然后我就猛夸客户端，然后说这好那好，我就和他分析起了市场行情，问我是不是后端混不下去了（os：怎么问的那么直接）接着话锋一转，开始和我聊起了国外的一些事，比如区别啊，人文啊，社会习性啊等等啦，我认为我啥区别呢，总结背后的逻辑，为什么会这样，其实他这个我觉得在考察我的逻辑能力吧（其实我很少出门这两年光在学技术了），然后问我怎么决策去哪个...