Python

● 设计和实现高效的训练推理框架，提升多节点、多GPU环境下特别是异构算力场景下的计算效率。具备良好的工程实践和算法理论基础，熟悉底层的硬件编程和常见GPU的算子库开发，能对算法的运行效率如速度、显存占用等进行优化，推动算法稳定、高效的运行。 ● 完善优化训练推理框架，针对市面上的国产信创卡能提出统一的优化方案，并推进在底层的通信效率、资源占用、稳定性方面持续建设。 ● 设计并实现能够处理大规模并发请求的系统架构，确保极端负载下的稳定性和性能。完善错误自愈机制，提升平台训练的MFU，打造行业内一流的异构算力混训混推GPU框架。 ● 持续关注并跟进业界技术发展，比如超长上下文、思维链、多模态等方向。

● 扎实的工程能力，优良的编程风格，熟悉C++/Python或Rust、zig语言和常用设计模式，熟悉常见的GPU的算子库，如有国产GPU卡如编译优化、编译加速等能力优先。 ● 熟悉深度学习的基础理论概念，能够熟练应用PyTorch等框架。 ● 优良的沟通表达能力和团队合作经验，具备快速学习的能力和较强的自我驱动能力。 ● 熟悉计算机体系结构基础知识，有扎实的高性能Kernel开发（CUDA/Triton等）、推理引擎优化(vLLM/)、模型算法优化（量化/稀疏等）、AI计算资源调度优化等方面的经验。 ● 熟悉常见的云原生技术，如docker、K8S等。