【27届留用实习生】大模型推理部署方向-大模型中心

1. 参与 LMDeploy 项目研发，支持多模态模型的推理和优化； 2. 参与InternLM, InternVL系列模型在下游部署生态项目上的支持、建设和拓展。

1. 本科在读及以上学历，计算机科学、人工智能、数学等相关专业优先； 2. 熟练使用 python 或者 c++，pytorch，工程能力扎实； 3. 熟悉主流的 LLM、VLM 模型结构，从事过模型推理优化相关的项目； 4. 【加分项】为 llama.cpp，vllm，lmdeploy等开源 LLM 推理框架添加过模型支持； 5. 【加分项】能够使用 openai Triton 或 CUDA 进行算子开发。