最近读了腾讯写的文章，简单自己做了下总结和理解，又有了新的输入，不愧是腾讯👍 一、学到的核心知识 1. 大模型推理的两大基石  Continuous Batching（连续批处理）：传统批处理要求一个 batch 内所有请求"同时开始、同时结束"，但 LLM 输出长度不可预测，会浪费 GPU。vLLM 把调度粒度从 request level 下沉到 token level——每一步看哪些请求"差几个 token"，就调度几个 token，把短请求填进 batch 的空隙里。 Paged Attention：传统做法一次为请求申请全部显存，碎片严重；P...

26届设计找不到工作啊  

坐标上海某末211计科 学了一个学期的agent想要投简历大佬可以帮忙看看出了什么问题吗

把最近两个月听到、看到几个事，分享给大家：湖南长沙某个给政府驻场开发的项目中，全是古法编程、纯手工CRUD，一个在那里的实习了几个月的小朋友担心自己再干去会找不到工作。国内某家股份制商行、三大运营商某研究院，日常开发都还是在对话式阶段，把模块需求描述给AI，再把AI给出的代码粘到工程中，最先的AI工具不让用，国外工具更是免谈，虽有国企的稳定不卷，员工却担心自己被温水煮青蛙，彻底失去竞争力。西安一个朋友的公司每月多花几万块钱采购Token，虽然是笔不小的费用，但营收端这两年接到的AI项目越来越多，成本端过去30多人的研发团队现在只需要十几个了，多出来的人要么去跑客户、要么去搞新产品研发、要么就走...