模型政策经理，智能体安全
岗位摘要
识别模型与工具、数据和外部系统交互时出现的漏洞，并将其转化为模型级和系统级保障措施；开发威胁模型和实证框架，以理解模型失准行为导致的有害结果；构建用于理解模型失准所引发有害结果的框架；识别驱动这些结果的底层行为和系统条件
岗位职责
- 识别模型与工具、数据和外部系统交互时出现的漏洞，并将其转化为模型级和系统级保障措施
- 开发威胁模型和实证框架，以理解模型失准行为导致的有害结果
- 构建用于理解模型失准所引发有害结果的框架
- 识别驱动这些结果的底层行为和系统条件
- 将研究发现转化为政策框架、评估标准、在线测量与保障措施
- 开发人类数据活动和黄金数据集，为新兴行为和风险的测量与评估提供依据
- 与研究、工程、安全和产品团队合作，共同塑造模型与系统安全，在安全、效用和业务风险之间平衡艰难取舍
- 为部署决策、系统卡、保障报告以及OpenAI更广泛的智能体安全方案提供信息
- 构建监控方法，以在部署后检测性能回退和新兴风险
任职要求
- 在AI智能体安全、隐私、安全、网络安全或相关领域拥有扎实背景，并具备调查真实世界有害结果所需的对抗性思维
- 对AI对齐有明确兴趣，并深入理解模型失准行为的技术驱动因素
- 具备足够的技术流利度，能直接处理评估和训练数据，理解数据所揭示的内容，并识别局限、模式以及深入调查的机会
- 能熟练处理模型数据和评估结果，包括检查示例、分析失败模式、评估数据质量，并区分政策失败与评分器、模型或系统失败
- 使用实证证据来制定和完善安全政策与保障措施
- 能将复杂或模糊的对齐风险转化为精确的行为预期和可衡量的评估标准
- 能在研究、工程、安全、产品和政策团队之间有效协作
- 能清晰沟通复杂且不确定的技术风险
- 喜欢快节奏、协作式的研究环境，并适应优先事项随模型、证据和风险变化而调整
福利待遇
- 提供搬迁支持给新员工
- 采用混合办公模式：每周三天到办公室，周四和周五可选择居家办公