AI可靠性工程资深软件工程师
岗位摘要
为大型语言模型服务系统制定合适的服务级别目标，在可用性、延迟与开发速度之间取得平衡；设计并实现覆盖令牌路径的监控与可观测性系统；协助设计和实现跨多个区域与云提供商的高可用服务基础设施；主导关键 AI 服务的事件响应，确保快速恢复、全面的事后复盘和系统性改进
岗位职责
- 为大型语言模型服务系统制定合适的服务级别目标，在可用性、延迟与开发速度之间取得平衡
- 设计并实现覆盖令牌路径的监控与可观测性系统
- 协助设计和实现跨多个区域与云提供商的高可用服务基础设施
- 主导关键 AI 服务的事件响应，确保快速恢复、全面的事后复盘和系统性改进
- 支持安全防护模型服务的可靠性——这对站点可靠性和 Anthropic 的安全承诺都至关重要
任职要求
- 具备强大的分布式系统、基础设施或可靠性背景——我们寻找具有可靠性思维的软件工程师和 SRE
- 保持好奇与勇敢——能在事件中从容进入不熟悉的系统，即使尚未具备深厚专业知识也能帮助推动解决
- 能从整体上思考系统如何组合以及接缝与边界在哪里
- 能跨团队建立持久关系——我们的协作模式依赖于被当作队友而非外部评判者
- 关心用户并对结果有主人翁意识，即使对于自己不拥有的系统也是如此
- 具备出色的沟通与协作能力——你将与整个公司合作
- 带来多元化经验——团队的力量来自构建产品栈、扩展数据库、运行大规模分布式系统等各类人才
- 曾担任 SRE、生产工程师或在大规模系统上从事类似可靠性工作
- 有运维大规模模型服务或训练基础设施（超过1000个GPU）的经验
- 有使用一种或多种机器学习硬件加速器（GPU、TPU、Trainium）的经验
- 理解 RDMA 和 InfiniBand 等机器学习专用网络优化
- 具备 AI 专用可观测性工具和框架方面的专业知识
- 有混沌工程和系统性韧性测试经验
- 曾为开源基础设施或机器学习工具做出贡献