腾讯ieg和字节飞书-数分

和牛客其他大佬可能不太一样，我是先工作了之后又重新去读研。还记得本科毕业那会儿，本来都准备考研了，结果工作offer先砸过来了，想着先挣钱试试水，就直接上班去了～ 谁知道工作了两年，感觉能力没咋提升，越来越迷茫，干脆裸辞读研！（说起来云淡风轻，中间的纠结内耗只有自己懂😭）24 届秋招重启找工作，有过之前的工作经验，也在上班时琢磨过不少行业趋势，所以这次选公司相对有点方向了，大家都提到的AI大势，其实我自己内心也有点纠结，这会不会是短暂性的、转瞬即逝的行业？anyway，还是觉得先上车再说吧。刚开始投简历那阵子，石沉大海没一点反馈，真的心态崩了好几次！想起本科秋招，那时候真的有点天真，不知道哪...

先介绍一下自身情况：学校是民办本科，专业是软件工程，方向是C++，地区是成都。因为本人一直觉得学校差的情况下，只有实习经历能弥补，所以本人大三上就去外面实习到现在，有了两段实习经历。一段是小厂，一段是中大厂。之后就离职去全力参加秋招，大大小小面了很多家，但是对待遇这块儿都不怎么满意，觉得工资太少了（可能是跟成都it行业普遍工资低有关）。后来偶然投到了一家与自身实习经历有些契合的北京的一家企业，刚好hr看到我的经历，对我也挺感兴趣。就一天直接速通了hr面，技术面，董事长面。最后董事长对我的交谈，以及各方面都挺喜欢，所以想把我作为未来正式员工去培养。直接给我开了一个无法拒绝待遇：实习350一天➕包住宿➕包去北京的机票➕周末双休➕朝九晚六以及如果能力没啥问题，转正2w以内没啥问题。且明年会在成都开分公司，到时候可以让我常驻成都

大姐 我还没入职呢吧....还有jave是byd什么？？我我

因为老是有hr偷看我简历，然后老是搞推理框架和算子优化的，我决定从头学一遍并且总结出来。不搞芯片的不用学，这个吃学历和顶会的。也就是为什么我从一开始没搞这个，但是又收到了中科院和香港实验室之类的邀请。现在学好像有点晚了。。。。算啦，搞一下吧。然后其实你们看到的稿子都是我写剩下的，一般都是写好几篇到点就发的。本文需要先看了上期讲芯片的看了才容易点。那么正式开始吧，本文的话还是按照vllm举例，因为时间有限，我和你们的时间都有限，所以我只讲最简单，最通用的东西，第一点：基本上所有的推理优化都是优化Tensor Cores,第二点：其他的SM架构，cuda cores无法被优化，这个是硬件，vllm...