记住一句话，不转正的实习生就是爷！实习生存真言：不想转正的实习生 = 职场自由人！先把实习目的摆得明明白白：要么混个实习证明、攒段能写进简历的经历；要么有机会就冲转正，没机会就撤；顺便赚点零花钱，摸鱼间隙还能出去旅旅游，体验一把职场生活。但核心要义必须拎清 —— 咱是实习生，又不是正式员工，别把自己当牛马使！“福兮祸之所倚,祸兮福之所伏”，所以实习没事做，我认为既是福，也是祸，关键是你在实习过程中，如果没有事情做，会做什么？如果有事情做，你会怎么做？“君子务本，本立而道生。” 实习关键是要学习知识，将实习经验封装到自己的简历上面。学才是关键，而不是做事情！所以我认为，实习的时候不要主动接dir...

沟通800多，10来个要简历，0面试，不知道为啥

首先声明不搞infra的不用看，我现在看底层了，本篇内容基于Efficient Memory Management for Large Language Model Serving with PagedAttention》 (SOSP 2023)出处： 加州大学伯克利分校（UC Berkeley）这篇里面讲了vllm，那么我们就先讲vllm。LLM 模型在推理阶段的显存有三部份组成：模型权重、KVCache 显存占用以及激活值显存占用。而今天我们是速成教程，所以又要体现深度，那么就先讲KVCache，这个本质上是一种通用的思路就是减少k，v的计算，采用缓存的机制去减少中间值，而这个的问题是kv...