返回岗位列表

Together AI

初级/高级或资深软件工程师,推理/计算基础设施工程

地点:印度 薪资:薪资未公开 日期:2026-09-18

岗位摘要

构建供应状态机:设计并实现软件,将物理主机的完整生命周期(从发现、推理启动到GPU驱动/CUDA栈、健康验证及退役/RMA)建模为显式、版本化的状态和转换;构建自助服务API:设计声明式API和控制平面,使推理团队能够通过一次API调用请求、扩展和拆除推理集群,无需工单或人工干预

岗位职责

  • 构建供应状态机:设计并实现软件,将物理主机的完整生命周期(从发现、推理启动到GPU驱动/CUDA栈、健康验证及退役/RMA)建模为显式、版本化的状态和转换
  • 构建自助服务API:设计声明式API和控制平面,使推理团队能够通过一次API调用请求、扩展和拆除推理集群,无需工单或人工干预
  • 自动化自愈:检测降级或故障节点,安全排空,触发修复或替换,并自动将健康容量重新引入池中
  • 负责流水线的可靠性:实现幂等性、重试、回滚和漂移检测,使供应系统与其他生产服务一样可靠
  • 与推理/ML平台团队合作:理解他们所需的集群形态(拓扑、互连、调度约束),并将其编码为平台中的一等抽象
  • 像软件工程一样构建:为基础设施代码实施强类型、自动化测试、代码审查、版本控制和CI/CD——这是一个产品,而不是Ansible剧本的集合

任职要求

  • 精通Go、Python、Rust或类似语言,具备扎实的软件工程背景,以编写和测试真实软件为生
  • 具有持久工作流编排工具(如Temporal、Cadence或等效工具)的经验,能够运行长期、清单驱动的工作流,并在故障后恢复
  • 具有Kubernetes控制器/CRD模式的实践经验
  • 构建或运营过将多个后端抽象为统一接口的平台API
  • 了解GPU调度和容量效率(碎片化、装箱、合理配置)
  • 具备产品思维,构建过被其他工程团队使用的内部平台或API,并关注开发者体验
  • 践行“构建即拥有”,不仅负责交付软件,还负责生产环境的运营和支持