Staff+ 软件工程师，机器学习采样路径
岗位摘要
设计、构建并运维后端系统，处理 Claude 请求生成路径上的每一个 token，包括与 API 和推理引擎的流式契约；端到端负责延迟与可靠性：定义并维护新增延迟、首 token 时间和可用性的 SLO 与错误预算，主导事件响应和事后复盘跟进
岗位职责
- 设计、构建并运维后端系统，处理 Claude 请求生成路径上的每一个 token，包括与 API 和推理引擎的流式契约
- 端到端负责延迟与可靠性：定义并维护新增延迟、首 token 时间和可用性的 SLO 与错误预算，主导事件响应和事后复盘跟进
- 快速且安全地向热路径发布变更：金丝雀发布与渐进式发布、错误预算与延迟门禁、快速回滚，并推动每 token 性能优化，在流量、模型和每请求检查增长时抑制尾部延迟并保持成本稳定
- 为采样路径设定技术方向：主导设计评审，与推理和研究团队共同做出延迟、可靠性和成本权衡决策，指导工程师，并提升整个 Safeguards 组织的运维标准
任职要求
- 曾设计、构建并运维全球规模的高 QPS 系统，并在生产环境中对其负责：事件响应、故障处理和基于复盘的修复
- 具备扎实的分布式系统基础：复制、一致性权衡、故障模式以及负载下的 SLO 管理
- 能为优雅降级设计系统：提前考虑依赖变慢、流中断或部署半完成等情况，使系统可预测地降级而非直接失败
- 曾成功向关键任务系统交付广泛或全面的变更，例如数据库迁移、接口变更或重写
- 8 年以上工业界软件工程经验
- 熟悉 LLM 推理系统和基于 Transformer 的模型者优先，但非必需
- 最低学历：学士学位，或同等教育、培训和/或经验组合
- 所需专业：与岗位相关的领域，可通过课程、培训或专业经验证明
- 最低经验年限：所需经验年限将与岗位的内部职级要求相匹配
- 采用基于地点的混合办公政策
福利待遇
- 提供具有竞争力的薪酬，年薪范围为 320,000 至 485,000 美元