云端部署优化工程师-实习

1、负责大模型团队深度学习、大模型算法在GPU、手机端、嵌入式等平台部署优化； 2、高质量地完成推理代码编写与SDK封装，将算法落地到汽车、手机、小爱等集团业务线； 3、充分挖掘硬件平台异构算力，计算热点分析，优化资源占用，极致优化推理性能； 4、负责AI项目交付、日常维护、技术文档撰写等工作。

1、本科及以上学历，计算机/电子/信息/通信/自动化/软件等相关专业； 2、掌握Python、C、C++等编程语言，精通数据结构算法，具备优秀的编程习惯； 3、了解CNN、LLM、Transformer、Diffusion等算法原理； 4、熟悉常见深度学习或LLM推理框架，如：TensorRT、TensorRT-LLM、llama、cpp、one-diff等； 5、对模型量化、定点化、低比特表示有深入研究和理解； 6、有CUDA、PTX指令编程经验，对高性能计算感兴趣者优先； 7、加分项：阅读过任意一种推理框架源码。