推理加速算法

1.配合算法工程师，推动深度学习相关算法的落地，打造高吞吐、低延时的推理系统: 2.优化大模型推理性能，提升吞吐并控制成本; 3.优化大模型推理框架，提升框架易用性和可调试性

1.熟练掌握C/C++、Python语言，有计算机体系结构背景或软件开发背景，熟悉系统性能调优的方式; 2.具备基础的GPU编程能力，包括但不限于Cuda、 OpenCL; 熟悉至少一种GPU加速库，如cublas、 cudnn、cutlass等; 3.有Tensorrt/OnnxRuntime/FasterTransformer/ TFServing等深度学习推理框架的实际使用经验; 4.熟悉各类深度学习网络和算子底层实现细节，训练和推理模型调试、调优有实操经验优先; 5.熟悉CPU/GPU异构加速瓶颈分析方法，有服务器端AI芯片、GPU加速经验优先; 6.熟悉分布式推理加速框架，有超大模型分布式加速经验优先; 【岗位支持转正】同花顺设立了国家级博士后科研工作站，并与清华大学、浙江大学等顶尖高校合作，共同培养博士后人才。作为国内首家上市的互联网金融信息服务公司，拥有十余年AI团队经验，成功部署数百个大模型于多个应用场景，累积数万亿条用户金融对话数据。公司自建千卡算力集群，支持AI技术发展。