分布式存储与HPC及AI基础设施主任工程师
岗位摘要
为Together AI设计和实施技术战略与存储路线图，在扩展GPU集群时推动高性能架构决策；通过集成Vast、Weka和Ceph，构建并扩展多PB级AI/ML存储系统，并通过自动分层与生命周期策略执行深度成本优化
岗位职责
- 为Together AI设计和实施技术战略与存储路线图，在扩展GPU集群时推动高性能架构决策
- 通过集成Vast、Weka和Ceph，构建并扩展多PB级AI/ML存储系统，并通过自动分层与生命周期策略执行深度成本优化
- 开发智能缓存与分层存储架构，为训练和推理工作负载在GPU规模下实现极高IOPS和集群级吞吐
- 调整L2/L3网络层的存储隔离，确保存储客户端具备安全、生产级的多租户能力
- 编写Kubernetes存储Operator和控制器，实现自动化供给、自助抽象和配额管理
- 设计端到端数据路径，实现每GPU节点10+ GB/s；为模型权重和数据集设计多级缓存；通过高级性能分析调优并行文件系统；在数千节点上扩展存储基础设施
- 通过高级基准测试和性能分析优化端到端数据路径，为开源存储项目和内部工具贡献高影响力代码
任职要求
- 8年以上存储工程经验，管理多PB级分布式存储
- 具备为GPU/HPC集群部署和运维高性能存储的可靠记录
- 深入掌握Kubernetes和云原生存储，并有生产环境经验
- 精通Go和Python，具备构建生产级系统和工具的能力
- 计算机科学、工程或相关领域本科/硕士，或同等实践经验
- 具备技术领导力：设计过显著提升性能、可靠性（99.999%+可用性）或成本效率的系统
- 分布式存储系统：深入精通Ceph、WekaFS、Lustre、Vast、GPFS或类似并行文件系统之一，并达到多PB级规模
- 对象存储：具备S3、MinIO、Ceph或R2的生产经验，包括性能优化和成本管理
- Kubernetes存储：CSI驱动、StatefulSets、PersistentVolumes、存储Operator和自定义控制器
- 面向GPU工作负载的存储优化、RDMA/InfiniBand网络、并行文件系统优化（TB/s级集群聚合吞吐、线速饱和）
- 编程：使用Go和Python进行自动化、Operator和工具开发
- 基础设施即代码：Terraform、Ansible、Helm、GitOps（ArgoCD）
- Linux存储栈：深入了解文件系统（ext4、xfs）、LVM、NVMe优化、RAID配置
- 可观测性：Prometheus、Grafana、Thanos架构与运维
- 优先考虑：GPU Direct Storage（GDS）、NVMe-oF、存储网络、RDMA实现
- 优先考虑：具备ML/AI相关经验