大模型训练优化工程师
岗位摘要
负责客户AI模型在寒武纪人工智能芯片(MLU)上的端到端性能优化和精度调优;及时总结可泛化的实践经验,开发性能分析和精度分析工具;负责寒武纪model zoo的开发和维护,在MLU芯片上进行SOTA算法复现
登录后保留你的岗位线索
邮箱登录后可继续查看完整职责、任职要求和原岗位入口,并使用收藏与浏览记录沉淀适合自己的机会。
岗位职责
- 负责客户AI模型在寒武纪人工智能芯片(MLU)上的端到端性能优化和精度调优
- 及时总结可泛化的实践经验,开发性能分析和精度分析工具
- 负责寒武纪model zoo的开发和维护,在MLU芯片上进行SOTA算法复现
- 针对公开或私有的AI Benchmark(如MLPerf等)进行端到端优化
- 密切跟踪评估各AI平台厂商的优化技术实践,最大化MLU在基准测试上的表现
任职要求
- EECS或相关专业本科及以上学历,硕士优先
- 熟悉Megatron、DeepSpeed等分布式框架,具备大规模分布式训练实际经验
- 对大模型、多模态、强化学习中至少一个场景有深厚积累和见解
- 有GPU性能优化和精度调优经验,熟练掌握nvprof、nvvp、nsight等性能分析工具
- 熟悉TensorFlow、PyTorch等主流深度学习框架中的至少一种
- 熟练操作Linux系统,精通C/C++、Python、Shell编程,具备扎实编程基础和调试经验
- 1年以上大模型性能优化和精度调试经验
加分项
- (满足一项即可)
- 对数据/模型并行等分布式方案有一定的见解和经验
- 对一种或以上主流框架(TensorFlow/PyTorch等)有开发者视角的理解,对框架设计或者调优有一定的见解和经验
- 熟悉并喜欢高性能优化,对CUDA/OpenCL/BANG/C/OpenMP等并行计算模型有一定的开发经验
- 熟悉GPGPU/MLU/CPU微架构,对软硬件联合优化有一定的见解和经验
- 史女士 今日活跃
福利待遇
- 具有竞争力的薪酬待遇(30-60K·15薪)
- 参与前沿AI芯片和大模型优化技术工作
- 寒武纪作为AI芯片领域领先企业的技术积累与发展平台
工作地址
上海浦东新区展想广场1号楼1805
登录后查看完整岗位详情
使用邮箱验证码登录后,可查看完整职责、任职要求、原岗位入口,并继续使用收藏和浏览记录。列表摘要保持公开,完整详情用于保护数据质量和降低恶意抓取。