复活!分享一下ai infra见解

本人入职数月,在ai infra上比起入职前有了一定的了解,现在分享一下回馈牛客上的大伙😙:

薪酬方面:对于ai infra,大部分还是属于开发类,比不过算法,但在开发里算高的。

要求方面:感觉这方向属于是要求比较高的了,从学历上来说这方向很多都是清华上交的人在做(感觉是因为mooncake,sglang),但找工作的话学历不绝对;从卷度上来说真得挺卷的,ai发展日新月异,作为底层的基础设施需要支持不同的场景;做ai infra的人越来越多,内部外部都会存在压力。

工作内容方面:从外层的最佳实践,到整个的系统优化,到某一个模块的优化,到学术上的贡献,到算子适配设计......

学习推荐:作为学生,如果实验室没有卡可以用的话,最好学习开源推理框架,而且对大模型要比较了解,要不断跟进业界开源模型,了解模型最新的改进,比如deepseek的mla,了解不同的系统设计,比如pd分离;如果有卡可以用的话最好自己部署一下不同的模型,并且往最佳实践上靠一下,验证不同算法改进的优势与劣势。

若有其他疑惑可直接私我😊,不定时解答一波

(图文无关😋)
全部评论
有些疑问想请教下楼主,我是双非本9硕,27届。目前刚开始学习infra,但是感觉从上层一些的容器,到底层的算子之类,这么多内容都需要掌握吗?还是说专注底层的,容器这些简单了解即可谢谢楼主!
点赞 回复 分享
发布于 今天 13:17 浙江
我是211本硕,马上研二了,做的大模型方向,因为实验室的卡有但是不够,所以为了加速实验捣鼓了好久各种量化还有分布式推理框架。我寻思我如果去冲传统后端,那基本上要重新学;如果是算法岗,那a会能不能出得看运气;如果ai infra的话估计cuda底层什么的也得学。话说有没有建议呀
点赞 回复 分享
发布于 08-07 00:42 江苏
我现在也在阿里云异构计算实习,应该跟楼主之前是一个组
点赞 回复 分享
发布于 08-06 12:24 广东
这行hc情况咋样啊今年😭
点赞 回复 分享
发布于 08-03 22:22 江苏

相关推荐

个人背景: 本科双非院校,硕士就读于杭电(杭州电子科技大学),将于明年(2026年)6月毕业。实习经历对比:上一段(6月初-7月中旬): 某AI计算卡独角兽公司,AI推理框架开发工程师岗。主要负责框架测试和模型验证。团队氛围、管理方式、领导都非常好,业务本身属于风口,我的个人兴趣浓厚。但公司HR反馈转正机会极少(需实习约两年)。目前已离职。当前(7月中旬至今): 海康威视,嵌入式Linux应用开发岗(传统业务部门)。实习满2个月可获得转正答辩机会。目前主要在学习自研工具和熟悉业务,尚未进入开发阶段。感觉技术栈相对传统稳定,个人兴趣远低于上一份实习。核心职业困惑:兴趣与前景的强烈冲突:对比两段实习后,我对AI Infra方向产生了强烈偏好,且该领域薪资远超嵌入式。但秋招现实是:AI Infra岗位稀少,双非学历与985竞争者相比劣势显著。短期策略的纠结:嵌入式(海康)路径: 更稳妥,更容易在秋招中获得转正/工作机会(保底意义)。AI Infra路径: 热情所在,但需解决竞争劣势问题。目前状态:白天海康工作,晚上兼顾科研和自学AI Infra项目,精力严重不足。寻求决策建议:选项A: 继续留在海康满2个月拿到转正答辩机会(作为秋招保底)?选项B: 放弃海康实习,争取在秋招前增加一段AI Infra实习经历(目标3-4个月)以弥补学历劣势?观察到前公司正在招聘同岗位实习生(离职时关系良好,是否值得尝试争取回归?)。若无法回归,是否应全力寻找其他同类公司实习积累经验?恳请大家基于我的背景和当下困境,在方向和策略上给予宝贵的指导~
故事和酒66:大佬,海康实习有三好:一是实习经历,也许后面业务熟悉了,也会学到新的东西;二是转正机会,相比与重新笔试面试,应该也更容易;三是能骑驴找马,如果精力不够先放弃找马也不会有损失。 ai方向岗位少,难道大,风险高,又是兴趣所在,收入又高,不可否认这是高风险高回报的选择。不过您之前不是有一段ai独角兽的实习了吗?再加一段也许有重复性的实习(能不能找到还有风险)和现在已经有的海康实习相比,收益或许没有那么大。 综上,个人建议还是在海康实习。
投递海康威视等公司10个岗位
点赞 评论 收藏
分享
评论
3
2
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务