高级软件工程师 - AI计算,Together云
岗位摘要
负责GPU和网络虚拟化栈:包括虚拟机监控器、内核和SDN工作,确保GPU计算和数据中心网络在高性能、可移植性和强隔离性方面跨异构硬件表现优异;负责数据中心内IaaS层:架构和规划服务、Kubernetes算子和库,以供应和管理计算、存储和网络资源(如虚拟机、并行文件系统、VPC和InfiniBan…
岗位职责
- 负责GPU和网络虚拟化栈:包括虚拟机监控器、内核和SDN工作,确保GPU计算和数据中心网络在高性能、可移植性和强隔离性方面跨异构硬件表现优异
- 负责数据中心内IaaS层:架构和规划服务、Kubernetes算子和库,以供应和管理计算、存储和网络资源(如虚拟机、并行文件系统、VPC和InfiniBand分区);领导新Vera Rubin数据中心(数千GPU)的建设,从硬件启动到客户API
- 设计GPU调度和全球管理平面:支持按需和预留集群的分布式控制平面,跨数十个数据中心,包括扩展每集群限制和自动化新容量上线的系统
- 架构监控和自动化修复以实现故障容错:制定自动检测、隔离和恢复故障节点的策略,确保分布式预训练和大规模推理在硬件故障下持续运行
- 跨团队设定技术方向:领导设计评审,解决跨领域架构分歧,消除跨团队依赖和集成风险,定义其他工程师遵循的标准——以集群可靠性、新容量首次GPU可用时间和规模化质量衡量
- 培养团队:指导高级和初级工程师,深化团队在虚拟化、数据中心网络和GPU基础设施方面的专业知识,并帮助提高Together云的招聘标准
- 设定工程标准:创建测试框架、工具和开发者文档,使系统健壮且易于其他团队使用,并塑造核心开源Together AI平台
任职要求
- 深入的技术背景和卓越的架构与构建能力
- 在虚拟化、数据中心网络和GPU基础设施方面具有丰富经验
- 熟悉Kubernetes、SDN、分布式系统和故障容错设计
- 具备领导设计评审和跨团队技术方向设定的能力
- 有指导工程师和提升团队技术水平的经验
- 精通至少一种编程语言,如Go、Python或C++
- 了解GPU硬件(如GB300、BlueField DPU、InfiniBand)者优先
福利待遇
- 具有竞争力的薪资和股权
- 全面的健康保险计划
- 灵活的工作安排
- 充足的带薪休假
- 职业发展和学习机会
- 多元包容的工作环境