前沿风险缓解研究员
岗位摘要
识别新兴AI安全风险，并探索缓解这些风险影响的新方法；构建并持续改进评估方法，以衡量这些风险的程度，包括与内部或外部领域专家合作；制定研究方向与策略，使AI系统更安全、更对齐、更鲁棒；为OpenAI及整个行业贡献AI安全最佳实践指南的制定
岗位职责
- 识别新兴AI安全风险，并探索缓解这些风险影响的新方法
- 构建并持续改进评估方法，以衡量这些风险的程度，包括与内部或外部领域专家合作
- 制定研究方向与策略，使AI系统更安全、更对齐、更鲁棒
- 为OpenAI及整个行业贡献AI安全最佳实践指南的制定
- 评估并设计有效的红队测试流程，检验安全系统的端到端鲁棒性，并识别未来改进领域
- 开发新型安全缓解措施，应用可解释性、控制和对齐等领域的新技术，保障已部署模型安全
任职要求
- 对OpenAI构建安全、普惠的通用人工智能的使命充满热情，并认同OpenAI章程
- 对长期AI安全抱有热情，并深入思考过通往安全AGI的技术路径
- 愿意亲自动手，应用可解释性、鲁棒性、对齐和控制等领域方法，使OpenAI模型安全
- 具备2年以上AI安全领域经验，尤其是RLHF、人机协作、可解释性或控制等方向
- 拥有计算机科学、机器学习或相关领域的博士学位或其他学位
- 能在涉及大规模AI系统的环境中高效工作
- 拥有4年以上研究工程经验，精通Python或类似语言