大家好，我是 90 年生于河南、扎根北京近十年的理工男，目前就职于一家外企研发部门，年薪到手约 70 万，公积金满额。工作之外，我更看重的是生活的质感与稳定感。家中三口温馨和睦，父母已在老家退休安居，这也让我能更专注于在北京的事业与未来的家庭生活。性格上，我是一个成熟稳重、注重沟通的人，相信任何关系的长久，都源于真诚与理解。我不冷暴力，不逃避问题，更愿意在彼此尊重的基础上，共同解决生活中的大小难题。期待的另一半，是三观契合、真诚善良、愿意一起面对生活的姑娘。希望你有稳定的工作，有经营未来家庭的愿望，也愿意与我携手，共同构筑一个温暖而体面的生活。愿我们在茫茫人海中，以坦诚相遇，以温柔相守。 若你...

因为老是有hr偷看我简历，然后老是搞推理框架和算子优化的，我决定从头学一遍并且总结出来。不搞芯片的不用学，这个吃学历和顶会的。也就是为什么我从一开始没搞这个，但是又收到了中科院和香港实验室之类的邀请。现在学好像有点晚了。。。。算啦，搞一下吧。然后其实你们看到的稿子都是我写剩下的，一般都是写好几篇到点就发的。本文需要先看了上期讲芯片的看了才容易点。那么正式开始吧，本文的话还是按照vllm举例，因为时间有限，我和你们的时间都有限，所以我只讲最简单，最通用的东西，第一点：基本上所有的推理优化都是优化Tensor Cores,第二点：其他的SM架构，cuda cores无法被优化，这个是硬件，vllm...