拼多多春招内推(づ￣ 3￣)づ

最近读了腾讯写的文章，简单自己做了下总结和理解，又有了新的输入，不愧是腾讯👍 一、学到的核心知识 1. 大模型推理的两大基石  Continuous Batching（连续批处理）：传统批处理要求一个 batch 内所有请求"同时开始、同时结束"，但 LLM 输出长度不可预测，会浪费 GPU。vLLM 把调度粒度从 request level 下沉到 token level——每一步看哪些请求"差几个 token"，就调度几个 token，把短请求填进 batch 的空隙里。 Paged Attention：传统做法一次为请求申请全部显存，碎片严重；P...

做梦也想不到我敢干这件事，但是我做了

小厂不理，中厂无音，大厂不鸟，整得人都想要转行了……

最近，我在跟我朋友讲述以前发生过的事情，她表示根本无法想象那个环境，仿佛是上个世纪才听到过的一些事情。还说我没有“长歪”，简直就是个奇迹了。我出生在湖南的一个偏远的农村底去，父母是地地道道的农民，也没接受过什么高等的教育，都是读完初中就没读了。但是他们对我的教育却是比较重视，把我送到隔壁的村读小学和初中，因为我们那边还没有初中，整个学校也只有两个老师，教育质量可以说非常低了。所以我每次上学都要差不多走5公里才能去到学校，初中还好一点，可以寄宿学校了。小学和初中，我算是一个什么坏事都做过一些的差学生，抽烟、喝酒、嚼槟榔、翻墙出去上网都是基本操作，还有好几次打群架被喊家长了。那边基本上每年初二和初...