记住一句话，不转正的实习生就是爷！实习生存真言：不想转正的实习生 = 职场自由人！先把实习目的摆得明明白白：要么混个实习证明、攒段能写进简历的经历；要么有机会就冲转正，没机会就撤；顺便赚点零花钱，摸鱼间隙还能出去旅旅游，体验一把职场生活。但核心要义必须拎清 —— 咱是实习生，又不是正式员工，别把自己当牛马使！想通这点就豁然开朗了：摸鱼被领导逮住了又能咋地？大不了笑嘻嘻认个错，下次接着来！实习的正确姿势就是：少干杂活烂活，多学真本事，摸鱼技能练得炉火纯青，顺便骑驴找马，有更好的下家直接润！反正没打算转正，绝对不主动揽活。领导派的活儿？咱就慢悠悠干，保证质量就行，剩下的时间，舒舒服服摸鱼赚米，主打...

这还是lz的处女面，第一次面试就遇到极品了，这是个实习面试，只是打算拿来练手，毕竟第一次面试，先是预订8点会议，等领导到八点半。开始面试后，又问楼主是谁，并且及其没有礼貌，而且要签三年的实习协议，毕业了也得实习，让我考虑一下。果断退出会议详情贴可以见lz最初的帖子，不过有点久远了

首先声明不搞infra的不用看，我现在看底层了，本篇内容基于Efficient Memory Management for Large Language Model Serving with PagedAttention》 (SOSP 2023)出处： 加州大学伯克利分校（UC Berkeley）这篇里面讲了vllm，那么我们就先讲vllm。LLM 模型在推理阶段的显存有三部份组成：模型权重、KVCache 显存占用以及激活值显存占用。而今天我们是速成教程，所以又要体现深度，那么就先讲KVCache，这个本质上是一种通用的思路就是减少k，v的计算，采用缓存的机制去减少中间值，而这个的问题是kv...