大模型预训练架构工程师
岗位摘要
深入参与美团GenAI大规模基础设施建设;负责美团大规模基座模型训练框架架构迭代,提升稳定性、易用性、可运维能力和可观测能力;负责高达数万卡规模和数万亿参数的大规模训练性能优化;与算法团队深度协同,共同参与大模型项目,探索Scaling Law边界
岗位职责
- 深入参与美团GenAI大规模基础设施建设
- 负责美团大规模基座模型训练框架架构迭代,提升稳定性、易用性、可运维能力和可观测能力
- 负责高达数万卡规模和数万亿参数的大规模训练性能优化
- 与算法团队深度协同,共同参与大模型项目,探索Scaling Law边界
任职要求
- 具备大规模分布式训练框架的架构设计和优化经验
- 熟悉深度学习框架(如PyTorch、TensorFlow等)及其底层原理
- 有大规模集群性能调优经验,熟悉GPU/CPU体系结构
- 了解大模型训练流程,对Scaling Law有深入理解者优先
- 具备良好的团队协作和沟通能力,能够与算法团队紧密合作
福利待遇
- 业界前列的算力规模和海量数据资源
- 丰富的应用场景,深度参与大模型项目
- 与优秀算法团队协同工作的机会