深圳湾创新科技大厦租房

------------------------------------------------------------------------------------------------🚩评选规则：注册时间超过2年以上，综合今年优质内容数量、累计浏览pv等数据参考+运营团队内部评估👉最终评选：5人🎤快来为你心仪的作者投票吧~ ❗本次投票数据仅为最终评选工作提供重要参考，不作为最终结果，最终评选结果以官方核定为准~✨若上述作者中没有您心仪的人选，欢迎在评论区积极提名推荐！！

公司开的新食堂，看一眼就吓哭了，坐5分钟就跑路了服务员还追出来问我为什么走了。还敢来互联网吗？啊？黑子说话！

如题，今天微信上面问HR多久能发offer，结果HR问我方不方便接电话，其实当时鼠鼠就能感觉情况不对劲了，HR说offer审批要给部门的leader审核，结果审核的时候leader感觉我还是不太合适（也没说哪不合适），然后审批就失败了HR说后面会努力再帮我申请一下，但我感觉说的是些安慰人的话吧，毕竟第一次都没通过后面怎么可能会通过呢其实如果面试过程中把我挂了我都不会这么难受，但是面了整整四面到头来还是没走到最后一步，鼠鼠知道HR面也可能会挂人但是没想到自己居然真的这么倒霉，投个日常实习也能在HR面挂掉唉，无语凝噎了

因为老是有hr偷看我简历，然后老是搞推理框架和算子优化的，我决定从头学一遍并且总结出来。不搞芯片的不用学，这个吃学历和顶会的。也就是为什么我从一开始没搞这个，但是又收到了中科院和香港实验室之类的邀请。现在学好像有点晚了。。。。算啦，搞一下吧。然后其实你们看到的稿子都是我写剩下的，一般都是写好几篇到点就发的。本文需要先看了上期讲芯片的看了才容易点。那么正式开始吧，本文的话还是按照vllm举例，因为时间有限，我和你们的时间都有限，所以我只讲最简单，最通用的东西，第一点：基本上所有的推理优化都是优化Tensor Cores,第二点：其他的SM架构，cuda cores无法被优化，这个是硬件，vllm...