返回岗位列表

研究科学家（AI安全与健康）

查看原岗位

地点：美国薪资：薪资未公开日期：2025-01-29

岗位摘要

设计并应用实用且可扩展的方法来提升模型的安全性和可靠性，包括RLHF、自动化红队测试、可扩展监督等；使用健康相关数据评估方法，确保模型提供准确、可靠和可信的信息；构建可复用的库，将通用对齐技术应用于我们的模型

岗位职责

设计并应用实用且可扩展的方法来提升模型的安全性和可靠性，包括RLHF、自动化红队测试、可扩展监督等
使用健康相关数据评估方法，确保模型提供准确、可靠和可信的信息
构建可复用的库，将通用对齐技术应用于我们的模型
主动理解模型和系统的安全性，识别风险领域
与跨团队利益相关者合作，将方法整合到核心模型训练中，并在OpenAI的产品中推出安全改进

任职要求

对OpenAI确保AGI普遍有益的使命感到兴奋，并认同OpenAI的章程
对AI安全和改善全球健康成果充满热情
拥有4年以上深度学习和LLM研究经验，尤其是在RLHF、自动化红队测试、可扩展监督等实用对齐主题方面
拥有计算机科学、人工智能、机器学习或相关领域的博士学位或其他学位
保持目标导向而非方法导向，并且在需要时不畏惧从事不引人注目但高价值的工作
拥有为AI模型部署进行实际模型改进的经验
能够端到端地负责问题，并愿意学习任何缺失的知识以完成工作
是团队合作者，享受协作式工作环境
加分项：拥有健康相关AI研究或部署经验

福利待遇

提供搬迁援助