最近读了腾讯写的文章，简单自己做了下总结和理解，又有了新的输入，不愧是腾讯👍 一、学到的核心知识 1. 大模型推理的两大基石  Continuous Batching（连续批处理）：传统批处理要求一个 batch 内所有请求"同时开始、同时结束"，但 LLM 输出长度不可预测，会浪费 GPU。vLLM 把调度粒度从 request level 下沉到 token level——每一步看哪些请求"差几个 token"，就调度几个 token，把短请求填进 batch 的空隙里。 Paged Attention：传统做法一次为请求申请全部显存，碎片严重；P...

双非，想暑假找中小厂实习，不玻璃心求建议agent项目做什么比较好😔

27届，bg科班双非本9硕，暑期应该是赶不上了，简历上的项目看了80%，结合AI看的，八股还在看。这个简历是秋招的初版，不敢用这个投暑期，因为确实很大一部分都没搞懂，要被问惨。想问问内容有什么改进的地方吗？其实本科是cpp选手，读研搞深度学习又整Python，最后找工作学java，java也没学多久，这学期开学之后才开始学的。我的诉求就是能在成都找个wlb的中厂就满足了

之前25年初在广州实习，以为广州城中村租房，租个像样的房子大几百肯定能全包了，然而事实出乎意料首先各种平台几乎被中介接管了，一手房东少之又少，而且几乎分辨不出谁是房东谁是中介，好不容易选了一款，结果对方说：这是引流的，你过来我带你看真的房子，我都无语了，这就好比：我先骗你过来，然后你过来了我要你信我接下来说的是真的，无论真假与否。本人也是年轻不知道社会险恶，于是约了一个中介，第二天看房说好有电动车接送，我想着有电动车接送的话，那街道也足够宽吧，到了中介说，前面不远走过去就好，然后就走进了天河棠下村，一个比较恐怖的城中村，这时候真正的理解到了什么叫“道狭才通人”。看了一下房子还算宽敞，但是唯一让...