职位描述2021年4月，阿里集团成立智能信息事业群，聚焦AI技术在信息服务赛道的创新应用，从工具到服务，持续为用户提供高效、智能的互联网产品。智能信息事业群核心产品为夸克APP、UC浏览器、书旗小说、超级汇川等，以多APP矩阵，覆盖横跨各年龄段的数亿用户人群，服务超10万客户。目前我们正在用大模型服务于公司的多条业务线，作为智能信息的AI Infra团队，在这里你将深入参与到大模型的训练和推理中： 1、参与大模型离线训练的效率和稳定性提升的工作； 2、参与大模型在线inference吞吐/延迟优化，提升inference性价比的工作； 3、参与上述算力加速软硬件及平台体系化的设计和建设工作，支撑大模型能力建设和落地应用。职位要求，具备以下一项或多项能力：1. 熟悉C/C++、Python等至少一门编程语言，以及Linux下的开经验 2. 了解常用机器学习算法，对文本/多模态大模型相关领域模型，有极佳的工程实现能力，了解TF/Pytorch/Jax等深度学习框架，有相关模型训练和模型效果优化者优先 3. 了解大模型MegatronLM/Deepspeed/Colossal分布式训练框，了解模型量化、蒸馏、剪枝等模型优化原理和策略，有相关训练、调优经验优先4. 了解或使用过使用包括vllm/tgi/tensorrtLLM等模型推理服务框架，有代码分析及实践经验优先 5. 了解GPU/ASIC芯片，了解硬件系统架构，能够针对性的编写高性能的算子实现，有分析及调优能力 5. 在训练/推理加速相关领域的研究和成果发表者优先 ，也欢迎有HPC或体系结构背景的铜须同时我们还希望你 1、学习能力强，有良好的英文论文阅读能力，对新事物保有好奇心，并能快速适应新环境； 2、良好的沟通能力和团队协同能力；能与他人合作，共同完成目标； 3、对所在领域有热情，相信方法总比困难多，善于独立思考并反思总结。base地点：广州，欢迎感兴趣的同学留言、私聊或发送简历到邮箱zhangmaoquan.zmq@alibaba-inc.com