求帮选AI Infra实习offer🔥字节vs蚂蚁
投票
个人背景:无实习,项目经验主要做KV Cache相关优化,诉求就是实习能学到硬核技术、对秋招助力最大化!
Offer1:字节-推荐架构团队(抖音主站)
✅工作内容
主打LLM4Rec,做推荐大模型相关Infra,团队训推全栈涉及
分配具体工作:推理场景超长上下文+超高QPS的KV Cache相关支持
额外机会:后续感兴趣且有能力,可转推理框架方向,在vLLM里适配模型+优化,侧重算子和图优化
✅优点
大厂title亮眼;核心业务(抖音主站),有落地场景;算力充足
❌缺点
推荐大模型参数偏小;与大模型前沿技术不太沾边;偏向业务组,怕工作内容杂,担心学到的技术、积累的能力,和秋招纯大模型推理岗匹配度不高
Offer2:蚂蚁-平台技术事业群-超级计算技术部
✅工作内容
偏中台,支持内部MasS平台,和业务距离较远
基于SGLang做模型优化+部署,及时适配业界前沿模型;做PD分离相关工作,在Mooncake上优化开发
核心分配任务:KV Cache优化,近期适配DeepSeek v4并做相关优化。
✅优点
技术更偏向业界大模型前沿,跟进最新技术速度快;组内有和SGLang合作开发的落地工作,技术栈纯Infra底层;组内管卡。
❌缺点
整体大厂title不如字节;怕实习生被画饼,没办法接触到真正核心的前沿技术工作。
求有AI Infra实习/秋招经验的大佬们给点建议,到底该选哪个对秋招更有利啊🙏
#AI实习# #AIInfra# #字节跳动实习# #蚂蚁集团# #实习# #字节跳动# #大模型# #offer帮选# #牛客AI配图神器#
Offer1:字节-推荐架构团队(抖音主站)
✅工作内容
主打LLM4Rec,做推荐大模型相关Infra,团队训推全栈涉及
分配具体工作:推理场景超长上下文+超高QPS的KV Cache相关支持
额外机会:后续感兴趣且有能力,可转推理框架方向,在vLLM里适配模型+优化,侧重算子和图优化
✅优点
大厂title亮眼;核心业务(抖音主站),有落地场景;算力充足
❌缺点
推荐大模型参数偏小;与大模型前沿技术不太沾边;偏向业务组,怕工作内容杂,担心学到的技术、积累的能力,和秋招纯大模型推理岗匹配度不高
Offer2:蚂蚁-平台技术事业群-超级计算技术部
✅工作内容
偏中台,支持内部MasS平台,和业务距离较远
基于SGLang做模型优化+部署,及时适配业界前沿模型;做PD分离相关工作,在Mooncake上优化开发
核心分配任务:KV Cache优化,近期适配DeepSeek v4并做相关优化。
✅优点
技术更偏向业界大模型前沿,跟进最新技术速度快;组内有和SGLang合作开发的落地工作,技术栈纯Infra底层;组内管卡。
❌缺点
整体大厂title不如字节;怕实习生被画饼,没办法接触到真正核心的前沿技术工作。
求有AI Infra实习/秋招经验的大佬们给点建议,到底该选哪个对秋招更有利啊🙏
#AI实习# #AIInfra# #字节跳动实习# #蚂蚁集团# #实习# #字节跳动# #大模型# #offer帮选# #牛客AI配图神器#
全部评论
选字节,跟大模型沾边前途无量
大家可以在评论区给给具体的看法/建议喔~很想和有经验的同学和大佬交流交流!
相关推荐
点赞 评论 收藏
分享

查看4道真题和解析