Staff 软件工程师,推理/计算基础设施工程
岗位摘要
构建供给状态机:设计并实现软件,将物理主机从发现、推理启动(包括 GPU 驱动/CUDA 栈)、健康验证到退役/RMA 的完整生命周期建模为显式、带版本的状态与转换;构建自助服务 API:设计声明式 API 和控制平面,使推理团队只需一次 API 调用即可请求、扩缩容和拆除推理集群,无需工单和人工…
岗位职责
- 构建供给状态机:设计并实现软件,将物理主机从发现、推理启动(包括 GPU 驱动/CUDA 栈)、健康验证到退役/RMA 的完整生命周期建模为显式、带版本的状态与转换
- 构建自助服务 API:设计声明式 API 和控制平面,使推理团队只需一次 API 调用即可请求、扩缩容和拆除推理集群,无需工单和人工介入
- 自动化自愈:检测降级或故障节点,安全排空,触发修复或替换,并自动将健康容量重新引入资源池
- 负责流水线可靠性:通过幂等性、重试、回滚和漂移检测,使供给系统像其他生产服务一样可靠
- 与推理/ML 平台团队合作:理解其所需集群形态(拓扑、互连、调度约束),并将其编码为平台中的一等抽象
- 像软件工程一样构建:为基础设施代码引入强类型、自动化测试、代码评审、版本管理和 CI/CD;这是产品,不是 Ansible 剧本集合
任职要求
- 具备扎实的软件工程背景,熟练掌握 Go、Python、Rust 或类似语言,以编写和测试真实软件为生
- 具有 Temporal、Cadence 或同类持久工作流编排工具经验,能够运行长期、清单驱动、可容错并可在执行中恢复的工作流
- 具有 Kubernetes 控制器/CRD 模式的实践经验
- 构建或运营过以一个接口抽象多个后端的平台 API
- 理解 GPU 调度与容量效率,包括碎片整理、装箱和合理配置规格
- 将 GPU 基础设施视为需要工程化设计的软件
- 具备产品思维:构建过被其他工程团队使用的内部平台或 API,并关心所交付产品的开发者体验
- 践行“你构建,你负责”:不仅交付软件,也负责在生产环境中运维和支持它