大语言模型训练与推理框架负责人
岗位摘要
负责大语言模型训练框架的开发和优化，包括但不限于性能分析、高性能算子、计算和通信优化、可观测性等；负责大语言模型推理框架的开发和优化，包括但不限于PD分离、专家并行、高性能算子等；负责训练和推理框架的团队管理和规划，支持上层大语言和多模态模型的训练和推理
登录后保留你的岗位线索
邮箱登录后可继续查看完整职责、任职要求和原岗位入口，并使用收藏与浏览记录沉淀适合自己的机会。
岗位职责
- 负责大语言模型训练框架的开发和优化，包括但不限于性能分析、高性能算子、计算和通信优化、可观测性等
- 负责大语言模型推理框架的开发和优化，包括但不限于PD分离、专家并行、高性能算子等
- 负责训练和推理框架的团队管理和规划，支持上层大语言和多模态模型的训练和推理
任职要求
- 计算机、电子、数学等相关专业硕士及以上学历，8年以上计算机相关工作经验，3年以上团队管理经验
- 精通C/C++，熟悉Python，具备扎实的数据结构与算法基础
- 熟悉NVIDIA GPU架构及编程模型，掌握CUDA核函数优化、显存管理、多流并发等技术，有实际性能调优经验
- 熟悉PyTorch、Megatron、vLLM/SGLang等深度学习训练和推理框架，有分布式系统开发经验
- 熟悉常用大语言模型、多模态模型以及生成模型等算法和架构，参与过大模型训练或推理项目
登录后查看完整岗位详情
使用邮箱验证码登录后，可查看完整职责、任职要求、原岗位入口，并继续使用收藏和浏览记录。列表摘要保持公开，完整详情用于保护数据质量和降低恶意抓取。