返回岗位列表

Together AI

资深软件工程师,推理/计算基础设施工程

地点:美国 薪资:$240,000-$280,000 日期:2026-09-18

岗位摘要

构建供给状态机:设计并实现软件,将物理主机的完整生命周期(从发现、推理启动到 GPU 驱动/CUDA 栈、健康校验、退役/退料维修)建模为显式、可版本化的状态与状态转换;构建自助式 API:设计声明式 API 与控制平面,使推理团队通过一次 API 调用即可申请、扩缩容和销毁推理集群,无需工单和人…

岗位职责

  • 构建供给状态机:设计并实现软件,将物理主机的完整生命周期(从发现、推理启动到 GPU 驱动/CUDA 栈、健康校验、退役/退料维修)建模为显式、可版本化的状态与状态转换
  • 构建自助式 API:设计声明式 API 与控制平面,使推理团队通过一次 API 调用即可申请、扩缩容和销毁推理集群,无需工单和人工介入
  • 实现自动自愈:检测降级或故障节点,安全排空,触发修复或替换,并自动将健康容量重新加入资源池
  • 负责供给流水线的可靠性:实现幂等、重试、回滚与漂移检测,使供给系统像其他生产服务一样稳定可靠
  • 与推理/机器学习平台团队合作:理解其所需集群形态(拓扑、互连、调度约束),并将其编码为平台中的一等抽象
  • 以软件工程方式构建基础设施:采用强类型、自动化测试、代码审查、版本管理和 CI/CD,将其作为产品而非 Ansible 脚本集合

任职要求

  • 具备扎实的软件工程背景,熟练掌握 Go、Python、Rust 或类似语言,日常编写并测试真实软件
  • 具有持久化工作流编排工具(如 Temporal、Cadence 或同类工具)经验,用于运行长期存活、清单驱动且能在故障后恢复并从中断处继续的工作流
  • 具有构建软件控制平面或编排系统的经验,能够对状态建模并随时间进行调和(如 Kubernetes 控制器/Operator、自定义调和循环、工作流引擎)