研究工程师/研究科学家，人类繁荣
岗位摘要
开发可扩展的训练方法，覆盖整个训练栈，提升模型对人们价值观的理解、支持其自主性并帮助实现长期目标；领导高杠杆研究，从开放问题到落地改进：选择难以定义的问题，迭代定义成功标准，运行实验并集成到前沿模型中
岗位职责
- 开发可扩展的训练方法，覆盖整个训练栈，提升模型对人们价值观的理解、支持其自主性并帮助实现长期目标
- 领导高杠杆研究，从开放问题到落地改进：选择难以定义的问题，迭代定义成功标准，运行实验并集成到前沿模型中
- 为难以验证的结果构建强化学习环境，并研究有益行为在不同场景下的泛化能力
- 创建基于人类专业知识和反馈的评估，揭示能力差距、强化学习中的意外激励以及聚合分数可能遗漏的失败
- 测试模型行为的衡量指标是否能预测更好的学习、福祉和其他长期结果，并利用这些发现指导训练
- 在人类领域构建从0到1的新能力，这些能力可能随着模型智能和测试时计算的提升而产生越来越大的影响
- 与产品团队、工程师、合作团队和领域专家合作，部署有前景的方法，在实际使用中衡量效果，并将所学转化为进一步改进
- 评估AI对超过十亿用户规模的人类繁荣的影响
任职要求
- 深切关心帮助AI改善人们的生活，并认为这是随着模型能力增强而带来的责任
- 在预训练或强化学习/后训练研究方面有异常出色的研究记录，尤其是在难以验证的领域；或者将强大的LLM研究技能与教育、心理健康或相关人类福祉领域的深厚专业知识相结合
- 是实践型构建者，能够将想法转化为严谨的实验，编写和调试代码，并直接处理数据和训练基础设施
- 有品味选择重要问题并制定可操作的解决步骤
- 对模糊问题主动承担责任，根据影响选择方法，包括当最有用的工作并不光鲜时
- 关心能力是否能扩展、泛化并进入现实世界，而不仅仅是理论上的可能性