返回岗位列表

大模型分布式训练框架开发工程师

查看原岗位

地点：北京薪资：薪资未公开日期：2026-01-29

岗位摘要

负责大模型分布式训练框架的开发和优化，构建一流和稳定的分布式能力，包括功能特性开发、通信和计算性能优化等；参与大模型训练各个环节的工程开发，处理训练过程中遇到的技术挑战；跟进和引入业界先进的分布式训练相关的技术，做前沿的技术创新

岗位职责

负责大模型分布式训练框架的开发和优化，构建一流和稳定的分布式能力，包括功能特性开发、通信和计算性能优化等
参与大模型训练各个环节的工程开发，处理训练过程中遇到的技术挑战
跟进和引入业界先进的分布式训练相关的技术，做前沿的技术创新

任职要求

熟悉常见的深度学习训练框架，如PyTorch、Megatron、Deepspeed等，并具有相关分布式3D并行训练开发和调试经验
熟悉NVIDIA CUDA的开发流程和kernel优化，对常用GPU Library有使用和开发经验，如cuDNN/cuBlas/NCCL/Cutlass等
有大模型训练的项目开发经验，熟悉常见的Transformer架构实现
具有良好的团队合作精神和管理能力，能够跨团队紧密合作，共同推动项目的成功