分布式训练架构师
岗位摘要
支持万卡集群分布式训练性能、稳定性优化及精度对齐;针对具体训练模型拆解优化算法,达成性能目标;研究并优化常见分布式训练框架;研究并实现前沿大模型性能优化算法;数学/自动化/计算机/软件/通信等相关专业本科及以上
登录后保留你的岗位线索
邮箱登录后可继续查看完整职责、任职要求和原岗位入口,并使用收藏与浏览记录沉淀适合自己的机会。
岗位职责
- 支持万卡集群分布式训练性能、稳定性优化及精度对齐
- 针对具体训练模型拆解优化算法,达成性能目标
- 研究并优化常见分布式训练框架
- 研究并实现前沿大模型性能优化算法
任职要求
- 数学/自动化/计算机/软件/通信等相关专业本科及以上
- 对国产及新算力设备、AI研究有浓厚兴趣
- 熟悉深度学习与分布式优化算法,具备大规模集群训练调优经验
- 编程、代码阅读与调试能力扎实
- 熟练使用PyTorch,了解megatron、deepspeed、colossalai、fsdp等大模型框架
- 熟悉稠密、稀疏、多模态模型训练与推理算法
- 顶会论文或ACM/刷榜竞赛获奖者优先
加分项
- 具有较强的科研能力,曾在顶级会议发表论文
- 有竞赛刷榜经历或 ACM 竞赛获奖经历
- 汪伟 刚刚活跃
福利待遇
- 60-90K·16薪,极具竞争力
- 北京/杭州双基地可选,弹性办公
- 参与国产GPU与大模型核心技术攻关
- 顶级研发团队与科研资源支持
工作地址
北京朝阳区望京国际研发园l座3层
登录后查看完整岗位详情
使用邮箱验证码登录后,可查看完整职责、任职要求、原岗位入口,并继续使用收藏和浏览记录。列表摘要保持公开,完整详情用于保护数据质量和降低恶意抓取。