好

因为老是有hr偷看我简历，然后老是搞推理框架和算子优化的，我决定从头学一遍并且总结出来。不搞芯片的不用学，这个吃学历和顶会的。也就是为什么我从一开始没搞这个，但是又收到了中科院和香港实验室之类的邀请。现在学好像有点晚了。。。。算啦，搞一下吧。然后其实你们看到的稿子都是我写剩下的，一般都是写好几篇到点就发的。本文需要先看了上期讲芯片的看了才容易点。那么正式开始吧，本文的话还是按照vllm举例，因为时间有限，我和你们的时间都有限，所以我只讲最简单，最通用的东西，第一点：基本上所有的推理优化都是优化Tensor Cores,第二点：其他的SM架构，cuda cores无法被优化，这个是硬件，vllm...

日子延伸，这层光晕渐渐淡去。在第一段实习的后半程，我察觉到自己陷入了缺乏自主性的重复中。新鲜感悄然退场，取而代之的是一种日渐清晰的麻木。工作依然在进行，但最初的轻盈感已消失不见。到了第二段实习，新鲜感已彻底耗尽。生活被压缩成标准的两点一线，每日如同上紧发条般循环。周末则至少需要一整天，像为耗尽的电池充电一样瘫软在家，才能勉强恢复一些精力。正是在这段时间里，我从校园到职场的转型压力变得无比具体，曾经对工作的理想化想象，也在现实的重复与疲惫中，彻底显露出了它本来的面貌