资深+ 软件工程师,推理速度
岗位摘要
为推理开发者生产力制定技术方向,负责跨 GPU(CUDA)、TPU 和 Trainium 平台的工具链、开发环境及 CI/CD 架构与路线图;作为加速器工具链管理的技术负责人,确保编译器、驱动、库和框架保持最新、兼容且经过充分测试,让推理工程师专注于模型服务而非环境排查
岗位职责
- 为推理开发者生产力制定技术方向,负责跨 GPU(CUDA)、TPU 和 Trainium 平台的工具链、开发环境及 CI/CD 架构与路线图
- 作为加速器工具链管理的技术负责人,确保编译器、驱动、库和框架保持最新、兼容且经过充分测试,让推理工程师专注于模型服务而非环境排查
- 设计并构建开发期间高效使用加速器的基础设施,包括 devbox 环境、落地前/后验证自动化,以及降低异构硬件协作成本的共享工具
- 定义并度量推理组织的生产力指标,构建仪表盘和告警,及早暴露回归(如冒烟测试长时间失败、构建时间上升、工具链损坏)并推动解决
- 主动发现推理工程流程中的瓶颈、重复性劳动和摩擦,并设计构建系统予以消除
- 作为 Anthropic 中央基础设施组织的技术对接人,协调共享开发者生产力项目,提出推理特定需求,并就自研还是采用做决策
- 通过设计评审、代码评审和直接协作指导团队成员,提升技术标准,但不承担人员管理职责
任职要求
- 8 年以上软件工程经验,其中大量时间担任基础设施、平台或开发者生产力团队的技术负责人或核心骨干
- 具备系统工程、构建/测试基础设施或机器学习基础设施的深厚背景,能够亲自动手解决工具链问题、CI/CD 流水线和开发者工作流优化
- 具备为计算密集型工作负载负责工具链或开发环境的经验