Staff + 高级软件工程师，云推理
岗位摘要
设计、构建并负责跨多个云服务提供商（CSP）为 Claude 提供服务的后端服务与基础设施，并处理计算硬件、网络、API 和运营模式方面的差异；与内部推理、产品 API、系统和安全等团队以及 CSP 合作伙伴跨职能合作，在新云平台搭建完整服务栈、解决运营问题并影响提供商路线图
岗位职责
- 设计、构建并负责跨多个云服务提供商（CSP）为 Claude 提供服务的后端服务与基础设施，并处理计算硬件、网络、API 和运营模式方面的差异
- 与内部推理、产品 API、系统和安全等团队以及 CSP 合作伙伴跨职能合作，在新云平台搭建完整服务栈、解决运营问题并影响提供商路线图
- 构建和演进 CI/CD 自动化系统，包括验证与部署流水线，确保新模型版本可靠地发布给云平台上数百万用户且不引入回归
- 设计跨 CSP 的接口与工具抽象，实现高性价比的推理管理、跨提供商扩展并降低各平台复杂度
- 参与容量规划、自动扩缩容和工作负载路由策略，使供给匹配需求，并将请求导向最具成本效益的加速器和区域
- 分析跨提供商的观测数据，识别性能瓶颈、成本异常和回归，并基于真实生产工作负载推动修复
任职要求
- 拥有丰富的软件工程经验，并在为数百万用户提供服务的高性能、大规模分布式系统方面有深厚背景
- 拥有在至少一个主流云平台（AWS、GCP 或 Azure）上构建或运营服务的经验，并接触过 Kubernetes、基础设施即代码或容器编排
- 对 LLM 服务有好奇心；不要求具备推理或机器学习经验
- 能在内部团队和外部合作伙伴的跨职能协作中表现出色
- 有与外部合作伙伴合作以对齐目标并交付影响的经历
- 是快速学习者，能迅速掌握新技术、硬件平台和提供商生态系统
- 高度自主，能端到端负责问题，包括职责描述之外的工作
- 优先资格：具备直接与云服务提供商（CSP）合作的经验