推理部署优化/高性能开发 春招总结-1

#软件开发笔面经# 🕒岗位/面试时间刚刚👥面试题目shell：怎么找到动态库位置如果自己去实现一款性能测试工具，你会怎么设计？cuda 性能测试时需要用到的工具cpp：static的作用const的作用多态机制java：单例模式（设计模式，不知道是不是叫这个）python：with机制@的作用🤔面试感受感觉对CUDA要求不高，或者说对底层知识的掌握要求不高但是对语言的一些特性要求较高🤔笔试感受没有笔试，菜到不配笔试😅回顾这次面试是在考前几小时面的说实话突然找我面试的时候我以为纯纯kpi，后来发现好像确实是缺人，而我当时也是确实菜现在回忆一下，真的好菜啊感觉已经被百度拉黑了希望下次秋招还能收到百度的约面不过不希望是npu方向的异构计算了对npu真的一点都不了解 #软件开发笔面经#

好久没写文章了，这次不写面经了。（因为在字节也还没待多久）这回写点轻松的内容和大家分享～ 虽然做开源也就一年的时间。但也积攒了很多故事，想写出来和大家一起分享。 去年这个时候，我第一次接触到开源，当时正值“开源之夏”报名的高峰期。当时的我对开源项目知之甚少，但怀着对技术的热爱和对学习的渴望，我决定报名参加。这一决定开启了我一段难忘的旅程，也让我在技术和社区中找到了归属感。 如今，距离那次初次体验已经整整一年了。再次看到“开源之夏”的报名信息，心中感慨万千。这一年里，我从一个开源新手逐渐成长为能够独立解决问题并帮助他人的开发者。开源不仅提升了我的技术水平，也让我结识了许多志同道合的朋友。 开源之...

#牛客帮帮团来啦！有问必答#我在读研期间，一直在芯片公司做一些编译器或者推理加速相关的工作，做过模型压缩，算子融合，动态算子相关的一些工作，但是一直在做单机单卡上相关的工作，这是我的一些背景。去年大模型火了以后多了很多大模型的机会，我本来以为这个岗位需求量会很大，但是实际秋招的时候，很多芯片公司在这个方向上招人都是个位数，虽然也可以硬蹭互联网还有一些纯 AI 初创，但是招人也特别少，而且因为急着出成果，都希望招资深工程师，在初期别人大厂各种乱杀的时候，只有自动驾驶的一些公司给了一些机会，后来运气不错又拿了一些大厂做大模型推理团队的 offer ，目前在去苏州做 ADAS 类似嵌入式的工作和去上海做大模型推理之间摇摆，上海总包多将近 20 ，但是我还是有一些担心的点。1. 推理优化的手段真正有效的其实有限，每个公司在这个方向几乎只有十几人的小组在做，我不确定以后跳槽坑位是否足够。2. 现在大模型越来越火，入行的人的资历也越来越好，动辄系统方向的顶会，优秀的开源项目，反观我只有一些实习的经验，对比之下，感觉压力很大。3. 经历了芯片赛道的狂热到现在的业务收缩以后，曾经我也以为算力是基本，做芯片行业肯定能温饱不愁，现在持相反态度，我感觉大模型以后一定是个好方向，但是对于从业者却未必友好。而去外企做嵌入式就没啥太多想法了，苏州家里可以支持买房，可以生活的比较舒服，工资也算给的足够多，如果算上女朋友加起来收入和上海持平（因为女朋友在上海只有银行的选择收入比较低）。两边都有被裁风险，苏州这边做嵌入式的公司相对应该更多一点，缺点就是确实不太喜欢嵌入式，对汽车的软件开发也喜欢不起来，但是可以克服；而且也不一定稳定，加班也不怎么少。总之，感觉选哪边都会后悔，经历了一段时间的决策，包括家庭等因素进去，更加不知道如何选择，希望删繁就简，仅从方向和城市的角度请各位大佬给点意见。

请问一下大伙，大模型推理加速这个方向如何呢，未来发展的前景怎么样，后续的就业面广不，和后端开发相比哪个更有优势呢？本人之前没有这方向的经验。实习是这个方向，实习三个月能达到秋招的要求吗