华为2012-大模型推理优化实习生

岗位职责：
我们正在寻找热情、富有创新精神的实习生，致力于面向大语言模型和多模态大模型的训推优化工作。您将有机会解决前沿技术问题，并在顶级会议和期刊上发表您的研究成果。

具体领域包括但不限于：
1. 大模型RL框架及算法：熟悉verl，低精rollout和并行解码加速等方向；
2. 分布式架构及分离系统：熟悉vllm和sglang上的多种并行算法，PD分离和EPD分离等分离架构；
3. 高效的模型结构：熟悉MoE、DSA、SWA、Linear Attention等大模型高效的结构设计；
4. 全模态推理：了解多模态图文音视的理解和生成模型架构及相应的推理优化策略；
5. 推理优化算法：掌握并行解码、kv稀疏、序列压缩、低比特量化等推理加速技术；

岗位要求：
1. 欢迎优秀的在读硕士或博士生参与实习，要求全职实习不少于6个月，优先考虑长期实习的同学；
2. 专业背景包括但不限于计算机、自动化、电子工程等相关专业；
3. 具备深度学习相关经验，能够熟练使用深度学习框架；
4. 具备上述研究领域的相关经验，包括行业经验或参与实验室研究。

有意愿或者想了解的同学可以直接联系。