高级软件工程师 - Together 云基础设施
岗位摘要
设计、构建并维护在高性能、安全且高可用的后端服务/Operator，运行于我们的数据中心，并自动化硬件管理，如Infiniband分区、数据中心内并行存储配置和虚拟机配置；为一个拥有数千块GPU的新GB200数据中心设计并构建IaaS软件层
岗位职责
- 设计、构建并维护在高性能、安全且高可用的后端服务/Operator，运行于我们的数据中心，并自动化硬件管理，如Infiniband分区、数据中心内并行存储配置和虚拟机配置
- 为一个拥有数千块GPU的新GB200数据中心设计并构建IaaS软件层
- 设计并构建分布式GPU调度以及全球管理平面，为数十个数据中心的按需和托管集群提供支持
- 开发支撑内部推理、强化学习和微调产品以及外部云客户的基础设施
- 设计并构建可扩展每集群容量限制并自动化新容量上线的系统
- 参与全球多艾字节高性能对象存储的开发，为预训练海量数据集和大规模推理模型权重提供服务
- 为客户构建先进可观测性栈，并提供自动化节点生命周期管理，以支持容错分布式预训练和大规模推理
- 为去中心化AI工作负载进行架构与研究
- 参与核心开源Together AI平台开发
- 创建服务、工具和开发者文档
- 创建用于健壮性和容错性的测试框架
任职要求
- 5年以上专业软件开发经验，并精通至少一种后端编程语言（Golang优先）
- 5年以上编写高性能、经过充分测试、生产级代码的经验，并展示端到端主导大型项目至完成的能力
- 具有在一个或多个云提供商（AWS、Azure、GCP）上构建和运营高性能和/或全球分布式微服务架构的经验
- 出色沟通能力：能够撰写清晰设计文档，并与技术和非技术团队成员高效协作
- 强大的系统知识，涵盖计算、网络和存储，包括并发、内存管理、高性能I/O和规模化
- 具有使用基础设施自动化工具（Terraform、Ansible）、监控/可观测性栈（Prometheus、Grafana）和CI/CD流水线（GitHub Actions、ArgoCD）构建和运营可靠、面向客户的大规模生产系统的经验