返回岗位列表

寒武纪

大模型训练并行计算工程师

地点:北京 薪资:25-50K 日期:2026-05-22

岗位摘要

负责大模型训练的系统性能分析及解决方案制定,高效分析业务瓶颈,研究大模型训练性能和内存优化手段,提升训练效率;跟进业界大模型训练前沿工作,深入理解MoE、长序列、文生图等场景,熟练掌握并行策略的通信计算模式,持续优化已有并行策略

岗位职责

  • 负责大模型训练的系统性能分析及解决方案制定,高效分析业务瓶颈,研究大模型训练性能和内存优化手段,提升训练效率
  • 跟进业界大模型训练前沿工作,深入理解MoE、长序列、文生图等场景,熟练掌握并行策略的通信计算模式,持续优化已有并行策略
  • 熟悉大模型训练整体流程及评价指标,完成大模型训练中的监控、稳定性训练等业务支持与开发工作
  • 设计并建设大模型训练的性能内存评估方法,分析性能原因、通信比例、内存占用及计算资源消耗等问题

任职要求

  • 本科及以上学历,计算机相关专业
  • 熟悉大模型训练框架Megatron-LM/Deepspeed等
  • 具备良好的编程能力,熟练掌握性能分析工具和方法,熟悉torch性能分析工具
  • 逻辑思维清晰,具有良好的沟通能力、抗压能力和责任心
  • 具有实际开发或优化并行策略经验者优先
  • 加分项:具备千卡以上训练经验

加分项

  • 胡女士 刚刚活跃

福利待遇

  • 薪资25-50K·15薪
  • 上市公司寒武纪平台,技术实力雄厚
  • 工作地点位于北京海淀区致真大厦

工作地址

北京海淀区致真大厦D1601