高级软件工程师 - AI计算
岗位摘要
负责 GPU 和网络虚拟化栈:包括 hypervisor、内核和 SDN 工作,确保 GPU 计算和数据中心网络在异构硬件上高性能、可移植且强隔离;负责数据中心 IaaS 层:架构和规划服务、Kubernetes 算子及库,以供应和管理数据中心的计算、存储和网络,包括虚拟机、并行文件系统、VPC…
岗位职责
- 负责 GPU 和网络虚拟化栈:包括 hypervisor、内核和 SDN 工作,确保 GPU 计算和数据中心网络在异构硬件上高性能、可移植且强隔离
- 负责数据中心 IaaS 层:架构和规划服务、Kubernetes 算子及库,以供应和管理数据中心的计算、存储和网络,包括虚拟机、并行文件系统、VPC 和 InfiniBand 分区;领导新 Vera Rubin 数据中心(数千 GPU)的建设,从硬件启动到客户 API
- 设计 GPU 调度和全局管理平面:支持按需和预留集群的分布式控制平面,跨数十个数据中心,包括扩展每集群限制和自动化新容量上线的系统
- 架构监控和自动修复以实现容错:制定自动检测、隔离和恢复故障节点的策略,确保分布式预训练和大规模推理在硬件故障下持续运行
- 跨团队制定技术方向:领导设计评审,解决跨领域架构分歧,消除跨团队依赖和集成风险,定义其他工程师遵循的标准——以集群可靠性、新容量首次 GPU 可用时间和规模化质量衡量
- 培养团队:指导高级和初级工程师,深化团队在虚拟化、数据中心网络和 GPU 基础设施方面的专业知识,帮助提高 Together Cloud 的招聘标准
- 设定工程标准:创建测试框架、工具和开发者文档,使系统健壮且易于其他团队使用,并塑造核心开源 Together AI 平台
任职要求
- 深厚的技术专长和架构能力,能够设计和构建大规模分布式系统
- 具有 GPU 虚拟化、内核开发或 SDN 经验者优先
- 熟悉 Kubernetes、容器编排和云基础设施
- 具备领导跨团队技术项目和指导工程师的经验
- 出色的沟通和协作能力,能够解决复杂的架构问题
- 有开源项目贡献经验者优先
福利待遇
- 具有竞争力的薪资和股权
- 全面的健康保险
- 灵活的工作安排
- 充足的带薪休假
- 职业发展和学习机会