返回岗位列表

高级AI安全研究员

查看原岗位

地点：美国薪资：薪资未公开日期：2023-05-25

岗位摘要

在RLHF、对抗训练、鲁棒性等AI安全主题上进行前沿研究；在OpenAI的核心模型训练中实施新方法，并在产品中推出安全改进；设定研究方向与策略，使我们的AI系统更安全、更对齐、更鲁棒；与跨职能团队（包括信任与安全、法律、政策及其他研究团队）协调合作，确保产品符合最高安全标准

岗位职责

在RLHF、对抗训练、鲁棒性等AI安全主题上进行前沿研究
在OpenAI的核心模型训练中实施新方法，并在产品中推出安全改进
设定研究方向与策略，使我们的AI系统更安全、更对齐、更鲁棒
与跨职能团队（包括信任与安全、法律、政策及其他研究团队）协调合作，确保产品符合最高安全标准
积极评估和理解模型与系统的安全性，识别风险领域并提出缓解策略

任职要求

对OpenAI构建安全、普遍有益的AGI使命感到兴奋，并认同其章程
对AI安全充满热情，致力于让前沿AI模型在现实世界中使用更安全
在AI安全领域拥有4年以上经验，特别是在RLHF、对抗训练、鲁棒性、公平性与偏见等领域
拥有计算机科学、机器学习或相关领域的博士学位或其他学位
具备AI模型部署安全工作的经验
对深度学习研究有深入理解和/或拥有强大的工程技能
是团队合作者，享受协作的工作环境