研究科学家，安全后训练
岗位摘要
设计并运行后训练流程，研究训练选择如何影响模型的安全性、鲁棒性和对齐属性；开发基于可解释性的评估方法，揭示模型产生不安全、欺骗或其他不良行为的方式和原因，并利用这些见解指导有针对性的缓解措施
岗位职责
- 设计并运行后训练流程，研究训练选择如何影响模型的安全性、鲁棒性和对齐属性
- 开发基于可解释性的评估方法，揭示模型产生不安全、欺骗或其他不良行为的方式和原因，并利用这些见解指导有针对性的缓解措施
- 与政策制定者、工程师和其他研究人员合作，将后训练和可解释性发现转化为可操作的安全标准、评估基准和最佳实践
任职要求
- 致力于推动安全、可靠和可信的AI部署，随着前沿AI能力的不断进步，保障行业安全
- 具备后训练和强化学习技术的经验，如RLHF、DPO、GRPO及类似方法
- 在机器学习领域，尤其是生成式AI方面，有发表研究的记录
- 至少三年解决复杂机器学习问题的经验，无论是在研究环境还是产品开发中
- 强大的书面和口头沟通能力，能够在跨职能团队中运作
- 优先考虑：具有机制可解释性、探测或其他理解模型内部的技术经验
- 优先考虑：熟悉对后训练模型进行红队测试或对抗性评估
- 优先考虑：有研究后训练引入或掩盖的失败模式的经验，如奖励黑客、谄媚或对齐伪装
福利待遇
- 有竞争力的基本薪资