安全研究学者 - 人类前沿实验室
岗位摘要
将高层次的安全问题转化为假设、基线和控制实验，并产出可供他人审查和构建的工作；实现和调试评估工具、代理环境、数据集、监控方法或训练后实验；识别混淆因素，区分模型能做什么和倾向于做什么，理解负面结果，并自主决定下一步尝试
岗位职责
- 将高层次的安全问题转化为假设、基线和控制实验，并产出可供他人审查和构建的工作
- 实现和调试评估工具、代理环境、数据集、监控方法或训练后实验
- 识别混淆因素，区分模型能做什么和倾向于做什么，理解负面结果，并自主决定下一步尝试
- 生产可复现的代码、实验文档和清晰的研究报告
- 每周与Scale研究员会面，接受方向指导和反馈，并推动日常工作
任职要求
- 在AI安全相关研究领域有实证研究经验，如AI控制、对齐审计、多智能体安全、递归自我改进安全、评估科学或滥用风险
- 具备强大的实验设计和执行能力，能够独立开展研究
- 熟悉机器学习框架和工具，能够实现和调试评估工具和代理环境
- 具备优秀的研究判断力，能够识别混淆因素并解释负面结果
- 能够将研究结果清晰地传达给他人，并生产可复现的工作
福利待遇
- 与Scale Labs的研究员密切合作，获得每周指导
- 参与具有重大影响的AI安全研究项目，拥有研究自主权
- 加入一个小型研究团队，共同解决AI安全的关键问题
- 有机会在AI安全领域建立实证研究基础