时间真的过得好快呀。想想我写的第一篇博客的时候，还在努力找实习中，当时因为实习面试通过，激动了特别久。而转眼间，我已经要准备离开这家公司了。从毕业到现在，已经在这家公司待了三年多了，如果算上实习的时间，已经有4个年头。甚至我在组内的时间，比大多数人都要长，也已经是组内的“老人”了。大家都说，对于毕业的第一家公司，感情都会很深，很舍不得。这是会的，而且毕竟在这里待了三四年，多少都会有点不舍，一起工作了这么久的同事。这篇文章作为我在自己这几年来的回顾和纪念，也希望能给到刚进入职场，或者准备离职的读者一些信息，写到哪算哪，我们开始吧。离职我大概是从去年开始有换工作的念头，到今年年初开始找工作，原因的...

这些天背后端八股，不知道为什么总感觉看不完，每天基本学习都是8h+，不过我也只是开学才开始准备（后悔暑假开摆了）。刚看完一个知识点，很快又忘记，又需要重新回顾。而后端八股的体量又很大，再加上一些计算机基础知识，让我觉得想要能达到吟唱的程度十分吃力。累的时候刷刷牛客的面经，发现又有很多我没见过的内容，如果我来面的话根本答不上来。并且我对业务以及业务延伸出来的八股，无法达到很多大佬的水平😑八股原本是古代科举的考试项目，而当今却在如此内卷的环境下，让面试延伸出一种也叫八股的东西。只能说八股这两个字真的是十分贴切👍，不背的话根本没法通过面试，都要去死记硬背。当然，我们可以结合自己的代码理解，让八股变得不再那么晦涩。一天的学习下来，我得到的正向反馈很少，总是觉得自己的知识面很狭窄，同时也对未来的就业充满焦虑。目前身边去了中大厂日常的基本都是前端多，可能是因为学习的周期比后端短。那么问题来了，我学后端是为了什么呢🤔难道我是m😱

因为老是有hr偷看我简历，然后老是搞推理框架和算子优化的，我决定从头学一遍并且总结出来。不搞芯片的不用学，这个吃学历和顶会的。也就是为什么我从一开始没搞这个，但是又收到了中科院和香港实验室之类的邀请。现在学好像有点晚了。。。。算啦，搞一下吧。然后其实你们看到的稿子都是我写剩下的，一般都是写好几篇到点就发的。本文需要先看了上期讲芯片的看了才容易点。那么正式开始吧，本文的话还是按照vllm举例，因为时间有限，我和你们的时间都有限，所以我只讲最简单，最通用的东西，第一点：基本上所有的推理优化都是优化Tensor Cores,第二点：其他的SM架构，cuda cores无法被优化，这个是硬件，vllm...