智能体安全训练与评估研究员
岗位摘要
训练和评估前沿模型，以减少有害或行为失准的智能体行动，形成清晰假设并在模糊环境中独立执行；挖掘事件并构建可扩展的测量、数据处理与评估系统，将真实失败转化为可重复的安全信号；与后训练、能力、监督和预训练团队紧密合作，将基于研究的缓解措施部署到大规模训练和智能体系统中
岗位职责
- 训练和评估前沿模型，以减少有害或行为失准的智能体行动，形成清晰假设并在模糊环境中独立执行
- 挖掘事件并构建可扩展的测量、数据处理与评估系统，将真实失败转化为可重复的安全信号
- 与后训练、能力、监督和预训练团队紧密合作，将基于研究的缓解措施部署到大规模训练和智能体系统中
任职要求
- 具备优秀判断力，能适应模糊性，并理解前沿模型研究；无需先前安全或对齐经验
- 在研究工程、机器学习工程、定量研究或应用模型研究方面有出色表现，能够端到端负责模糊项目
- 在实验、数据、评估和/或基础设施方面具备优秀技术执行力，并对现代前沿模型研究有敏锐直觉
- 受到智能体安全驱动，渴望解决紧迫且实际的问题，即使此前工作不在安全或对齐领域
福利待遇
- 提供搬迁援助
- 采用混合办公模式，每周到办公室工作3天