资深软件工程师，AI可靠性工程
岗位摘要
为大型语言模型服务系统制定合适的服务等级目标，在可用性、延迟与开发速度之间取得平衡；设计并实现覆盖令牌路径的监控与可观测性系统；协助设计并实现跨多个区域和云提供商的高可用服务基础设施；主导关键AI服务的事故响应，确保快速恢复、全面事故复盘与系统性改进
岗位职责
- 为大型语言模型服务系统制定合适的服务等级目标，在可用性、延迟与开发速度之间取得平衡
- 设计并实现覆盖令牌路径的监控与可观测性系统
- 协助设计并实现跨多个区域和云提供商的高可用服务基础设施
- 主导关键AI服务的事故响应，确保快速恢复、全面事故复盘与系统性改进
- 支持安全防护模型服务的可靠性，这对站点可靠性和Anthropic的安全承诺都至关重要
任职要求
- 具备扎实的分布式系统、基础设施或可靠性背景，我们寻找具有可靠性思维的软件工程师和SRE
- 保持好奇与勇气，在事故期间能够深入不熟悉的系统，即使尚未具备深厚专业知识也能帮助推动问题解决
- 能从整体上思考系统如何组合以及各部分的衔接处
- 能够跨团队建立持久关系，我们的协作模式依赖被当作队友而非指手画脚的外部人
- 关心用户并对结果有主人翁意识，即使系统并非自己负责
- 具备出色的沟通与协作能力，需要与整个公司合作
- 拥有多元经验，团队的力量来自构建产品栈、扩展数据库、运行大规模分布式系统以及介于其间的各类人才
- 曾担任SRE、生产工程师或在大规模系统上从事类似可靠性相关角色
- 具有运营大规模模型服务或训练基础设施（超过1000块GPU）的经验
- 具有一种或多种机器学习硬件加速器（GPU、TPU、Trainium）的使用经验
- 理解RDMA和InfiniBand等机器学习专用网络优化
- 具备AI专用可观测性工具和框架方面的专业知识
- 具有混沌工程和系统性韧性测试经验
- 曾为开源基础设施或机器学习工具做出贡献