返回岗位列表

资源调度工程师（训练/推理）

查看原岗位

地点：上海薪资：薪资未公开日期：2024-05-29

岗位摘要

负责大规模多集群异构资源的管理与调度；负责对LLM训推服务完成编排抽象，持续迭代高效的部署模式；负责与流量调度/任务调度层协作，保障训推资源稳定性以及资源使用效率；负责服务以及集群弹性能力，保障训推服务质量的情况下完成高效的资源流转

岗位职责

负责大规模多集群异构资源的管理与调度
负责对LLM训推服务完成编排抽象，持续迭代高效的部署模式
负责与流量调度/任务调度层协作，保障训推资源稳定性以及资源使用效率
负责服务以及集群弹性能力，保障训推服务质量的情况下完成高效的资源流转
负责集成多种训推资源管理体系和框架进行统一管理，向全局最优逼近

任职要求

计算机及相关专业，本科及以上学历
有大规模异构集群维护管理，多云多集群架构，大规模弹性系统，在离线混布等经验者优先
熟悉LLM生态，对MOE，PD分离，EP并行等LLM架构有经验者优先
有扎实的编程能力和代码品位，良好的数据结构和算法基础，有acm/icpc，oi等竞赛获奖经历者优先
能熟练使用一种编程语言，包括不限于Golang/Python/C++/C
理解常规的架构设计思想，包括不限于服务化、异步、高可用、可扩展等
有良好的团队沟通和协作能力，有良好的责任心