因为老是有hr偷看我简历，然后老是搞推理框架和算子优化的，我决定从头学一遍并且总结出来。不搞芯片的不用学，这个吃学历和顶会的。也就是为什么我从一开始没搞这个，但是又收到了中科院和香港实验室之类的邀请。现在学好像有点晚了。。。。算啦，搞一下吧。然后其实你们看到的稿子都是我写剩下的，一般都是写好几篇到点就发的。本文需要先看了上期讲芯片的看了才容易点。那么正式开始吧，本文的话还是按照vllm举例，因为时间有限，我和你们的时间都有限，所以我只讲最简单，最通用的东西，第一点：基本上所有的推理优化都是优化Tensor Cores,第二点：其他的SM架构，cuda cores无法被优化，这个是硬件，vllm...

之前逃课去实习被逮回学校了，至今仍在上课，秋招收获0蛋

hr面主要问我项目里你负责哪些，怎么做的。需求给你你怎么分析，接口。然后问一些团队合作的情景，你怎么处理的。没问关于华为的文化加班之类的问题。聊了点经历还有些问题忘了整场面试的体感不是很好，感觉很多时候跟面试官都不在一个频道上……此外由于我的项目都是比较简单的课程项目，挺多时候都在尬聊。或许因此把我挂了吧。but还是挺不爽的，算是目前面试体验最差的一次了😡

最近宝贝儿子出生了，事情多得很，也没有及时发帖，我愧对观众，愧对兄弟姐妹，愧对小队长，愧对小助手，愧对肖先生、流氓哥、以及各种哥和姐。 不过我仍然希望大家给我投投票，让小段段也能上一次年度作者，您的点赞是对我最大的鼓励，衷心期待您的十分评价，谢谢！（退订请按1）。 陪产假放了15天，一天没闲着，睡觉睡不好，吃饭吃不好，到处跑着办事情，每天200km的折腾，还要搬家，落户口啥的，到现在也是绷不住了，发烧、感冒、嗓子发炎，不知道是不是发烧了，脑瓜子嗡嗡的，眼睛也有些看不清。 不过生活不就是这样吗，永远有你解决不完的问题，做不完的事情，着急也没用，只要尽力了，其他的爱咋咋地，毕竟结果不是我能决定的。...