因为老是有hr偷看我简历，然后老是搞推理框架和算子优化的，我决定从头学一遍并且总结出来。不搞芯片的不用学，这个吃学历和顶会的。也就是为什么我从一开始没搞这个，但是又收到了中科院和香港实验室之类的邀请。现在学好像有点晚了。。。。算啦，搞一下吧。然后其实你们看到的稿子都是我写剩下的，一般都是写好几篇到点就发的。本文需要先看了上期讲芯片的看了才容易点。那么正式开始吧，本文的话还是按照vllm举例，因为时间有限，我和你们的时间都有限，所以我只讲最简单，最通用的东西，第一点：基本上所有的推理优化都是优化Tensor Cores,第二点：其他的SM架构，cuda cores无法被优化，这个是硬件，vllm...

考试注意事项（可以在系统里看到详细考前须知）：1.请使用最新版 chrome 浏览器作答（72 版本以上） ，考试需开启摄像头，请确保电脑带有摄像头 2.考生只能在笔试页面在线编写和调试代码，手机监控，电脑摄像头都要打开，考试过程中不要故意取消监控。考试前关闭网页 QQ，网页微信等其它网站，考试过程中不要访问百度等其他网站（手机熄屏、来电中断、弹窗中断等都可能提示“手机监控异常”的情况，影响考试结果，若能保证WiFi稳定高速，且手机保持常亮，可开启飞行模式，笔试过程中如手机监控中断，需重新扫码开启（系统有提示））3.考试答题时间 150 分钟，尽量在早上和安静情况下答题 4.考试共三道编程题，...