大模型系统工程师
岗位摘要
负责内部强化学习框架和训推一体化平台的建设和维护；解决大模型系统的中长期难题，保障大规模强化学习和预训练任务的高效运行；帮助算法团队排查并解决问题，了解算法需求并同算法团队一同科学合理优雅地迭代系统
岗位职责
- 负责内部强化学习框架和训推一体化平台的建设和维护
- 解决大模型系统的中长期难题，保障大规模强化学习和预训练任务的高效运行
- 帮助算法团队排查并解决问题，了解算法需求并同算法团队一同科学合理优雅地迭代系统
任职要求
- 熟悉Python，有veRL、OpenRLHF等强化学习框架经验者优先
- 了解Megatron-LM、vLLM、SGLang等框架，熟悉PyTorch的使用，对训推框架熟练掌握者优先
- 了解Golang，拥有良好的代码开发习惯，有代码洁癖者优先
- 了解容器、Kubernetes、RDMA网络、NCCL，如有大规模网络调优经验者优先
- 以下至少拥有一方面3年以上的经验：分布式系统、API设计、大规模集群管理、机器学习系统