安全研究技术负责人
岗位摘要
为新的研究方向设定北极星目标和里程碑，并制定具有挑战性的评估标准以跟踪进展；亲自推动或领导新的探索性方向的研究，以证明方法的可行性和可扩展性；横向协调安全研究及相关团队，确保不同的技术方法协同工作以实现强大的安全成果
岗位职责
- 为新的研究方向设定北极星目标和里程碑，并制定具有挑战性的评估标准以跟踪进展
- 亲自推动或领导新的探索性方向的研究，以证明方法的可行性和可扩展性
- 横向协调安全研究及相关团队，确保不同的技术方法协同工作以实现强大的安全成果
- 设定研究方向与策略，使我们的AI系统更安全、更对齐、更稳健
- 与跨职能团队（包括研究组织其他部门、T&S、政策及相关对齐团队）协调合作，确保AI满足最高安全标准
- 积极评估和理解模型与系统的安全性，识别风险领域并提出缓解策略
- 在AI安全主题（如RLHF、对抗训练、鲁棒性等）上进行前沿研究
- 在OpenAI的核心模型训练中实施新方法，并在产品中推出安全改进
任职要求
- 在安全和对齐领域，特别是在AI和LLMs方面，拥有扎实的实践研究记录
- 过去曾领导过大型研究工作
- 对OpenAI构建安全、普遍有益的AGI使命感到兴奋，并认同OpenAI章程
福利待遇
- 提供搬迁援助