因为老是有hr偷看我简历，然后老是搞推理框架和算子优化的，我决定从头学一遍并且总结出来。不搞芯片的不用学，这个吃学历和顶会的。也就是为什么我从一开始没搞这个，但是又收到了中科院和香港实验室之类的邀请。现在学好像有点晚了。。。。算啦，搞一下吧。然后其实你们看到的稿子都是我写剩下的，一般都是写好几篇到点就发的。本文需要先看了上期讲芯片的看了才容易点。那么正式开始吧，本文的话还是按照vllm举例，因为时间有限，我和你们的时间都有限，所以我只讲最简单，最通用的东西，第一点：基本上所有的推理优化都是优化Tensor Cores,第二点：其他的SM架构，cuda cores无法被优化，这个是硬件，vllm...

#找实习#

交笔试题当天 HR 就通知第二天可以来线下面试了，这公司效率可以的，我从深圳过去他们还报销来回车费，这点格局比较大。到了园区 HR 已经在门口等我了，没有直接去面试，先带我在办公园区转了一下，这边环境我还比较喜欢，是那种生态园区，比我之前待的那个办公楼好多了，看着气派实则坐血牢，非常闷而且没地方透气。然后就是和二面面试官 Solo 了，主要就是问项目，还好哥们都是自己实打实干出来的，不然真的会被问穿，说实话有点冒汗，还是准备的不够充分。二面完我等了 5 分钟，直接就 BOSS 面了，这一面基本是什么都聊、什么都问，老板人挺好的，和他聊了一个多小时，给了我很多靠谱的建议，受益匪浅。我问了进公司以...