安全系统研究项目经理
岗位摘要
与研究和工程负责人合作，制定安全计划和技术路线图，明确目标、里程碑、依赖关系和成功标准；推动安全防护措施的开发与部署，将安全研究转化为模型和产品中的防护措施，并维护端到端的覆盖视图；协调能力评估、对齐与控制评估、对抗性测试以及防护措施压力测试，包括自主和多智能体系统风险
岗位职责
- 与研究和工程负责人合作，制定安全计划和技术路线图，明确目标、里程碑、依赖关系和成功标准
- 推动安全防护措施的开发与部署，将安全研究转化为模型和产品中的防护措施，并维护端到端的覆盖视图
- 协调能力评估、对齐与控制评估、对抗性测试以及防护措施压力测试，包括自主和多智能体系统风险
- 推动前沿模型发布和部署的安全准备和可信访问计划，协调安全要求并确定评估范围
- 分类处理防护缺口、越狱和过度标记问题，建立负责人和升级路径，跟踪修复和回归测试
- 支持安全案例构建，将主张与评估、防护措施、假设和剩余不确定性联系起来，并沟通方法、结果和局限性
- 构建可跨产品扩展的计划，协调共享工具和反馈工作流、隐私和安全要求，以及防护措施用户体验和质量保证
任职要求
- 5年以上技术安全工作、技术项目负责或相关领域经验，适应快节奏环境
- 曾领导涉及研究员和工程师的复杂研究或技术项目，特别是在AI、网络安全、生物安全或其他失败后果严重的领域
- 理解前沿AI安全概念，包括能力评估、对齐、控制、监控和防护措施
- 具备出色的技术判断力、项目管理能力和对AI安全的承诺
- 能够将开放的安全问题转化为清晰的工作计划，并利用证据指导优先级和决策
福利待遇
- 提供搬迁援助
- 混合办公模式，每周3天在办公室