内推掌阅！

最近读了腾讯写的文章，简单自己做了下总结和理解，又有了新的输入，不愧是腾讯👍 一、学到的核心知识 1. 大模型推理的两大基石  Continuous Batching（连续批处理）：传统批处理要求一个 batch 内所有请求"同时开始、同时结束"，但 LLM 输出长度不可预测，会浪费 GPU。vLLM 把调度粒度从 request level 下沉到 token level——每一步看哪些请求"差几个 token"，就调度几个 token，把短请求填进 batch 的空隙里。 Paged Attention：传统做法一次为请求申请全部显存，碎片严重；P...

c++在路上了，lua也在路上

🤡😭      

一、背景科班出身，工作两年，一直在美团CLC做大数据开发。这次跳槽不是主动看机会的，而是实在扛不住了。手头的项目坑太多，老板的工作重心又全面转向AI，我这边的工作内容跟他的方向完全对不上，每天有种"你打你的我打我的"的错位感。长期下去既没有成长空间，也看不到产出被认可的可能，与其在一个越来越拧巴的环境里消耗，不如换个地方。整体面试周期大概3周，技术面三轮加一轮业务老大和HRG的综合面，阿里的节奏比我想象中要快一些。二、第一轮开场就是自我介绍，我大概讲了一下背景，重点落在数仓相关的工作经历上，也顺带提了一点AI方面的接触——毕竟现在团队方向在AI，这方面多少有点了解。面试官问...