大模型训练框架开发工程师
岗位摘要
负责大模型训练框架开发和优化,包括但不限于优化常见框架(如Megatron,DeepSpeed),数据读取、网络通信、计算算子等方面;参与大模型训练各个环节的工程开发,处理大规模训练过程中遇到的技术挑战
登录后保留你的岗位线索
邮箱登录后可继续查看完整职责、任职要求和原岗位入口,并使用收藏与浏览记录沉淀适合自己的机会。
岗位职责
- 负责大模型训练框架开发和优化,包括但不限于优化常见框架(如Megatron,DeepSpeed),数据读取、网络通信、计算算子等方面
- 参与大模型训练各个环节的工程开发,处理大规模训练过程中遇到的技术挑战
- 跟进和落地业界先进的分布式训练技术,做前沿的技术创新
任职要求
- 熟悉数据并行、模型并行、数据并行等并行策略,具备深入的理论和实践经验
- 具备大规模训练框架的架构设计经验,熟悉分布式系统和网络架构
- 精通常见深度学习框架,包括但不限于TensorFlow、PyTorch、Horovod等,能够快速实现并调试相关算法
- 对大规模预训练模型有较好的理解,掌握常见预训练模型的训练方法和优化技巧
登录后查看完整岗位详情
使用邮箱验证码登录后,可查看完整职责、任职要求、原岗位入口,并继续使用收藏和浏览记录。列表摘要保持公开,完整详情用于保护数据质量和降低恶意抓取。