分布式训练工程师
岗位摘要
基于公司生态，针对NLP、CV、音视频、多模态、推广搜等场景，构建大规模分布式机器学习系统；负责解决业务交付流程中单机多卡、多机多卡场景下的精度与性能问题；研究行业领先的超大规模分布式训练策略，解决大模型落地过程中遇到的分布式工程挑战
岗位职责
- 基于公司生态，针对NLP、CV、音视频、多模态、推广搜等场景，构建大规模分布式机器学习系统
- 负责解决业务交付流程中单机多卡、多机多卡场景下的精度与性能问题
- 研究行业领先的超大规模分布式训练策略，解决大模型落地过程中遇到的分布式工程挑战
任职要求
- 计算机、电子、数学及相关专业，具备2年以上相关工作经验
- 熟练掌握C++/Python编程，有CUDA编程经验者优先
- 熟悉TensorFlow、PyTorch、PaddlePaddle及其他国产机器学习框架，有相关框架开发经验者优先
- 熟悉CUDA生态，有NCCL、RDMA开发经验者优先
- 了解常见大规模分布式训练优化策略，熟悉Megatron、DeepSpeed、Accelerate、Galvatron者优先
福利待遇
- 薪资范围30K–60K，共15薪
- 工作地点位于上海闵行区临港浦江科技广场
工作地址
上海闵行区临港浦江科技广场16号楼