技术团队成员 - 后训练(强化学习与泛化)
岗位摘要
设计、运行并分析大规模强化学习后训练实验(如RLHF、基于可验证奖励的强化学习);研究并开发提升分布外泛化能力的方法,包括奖励设计、环境与任务多样性、课程学习和正则化;构建留出评估集,衡量模型对未见任务、领域和格式的泛化能力,并识别奖励黑客和基准过拟合
岗位职责
- 设计、运行并分析大规模强化学习后训练实验(如RLHF、基于可验证奖励的强化学习)
- 研究并开发提升分布外泛化能力的方法,包括奖励设计、环境与任务多样性、课程学习和正则化
- 构建留出评估集,衡量模型对未见任务、领域和格式的泛化能力,并识别奖励黑客和基准过拟合
- 诊断训练动态和失败模式,包括不稳定性、奖励过度优化和能力退化
- 将成功的研究转化为稳健、可复现的生产模型训练配方
任职要求
- 具备强大的研究和软件工程能力,拥有实际训练大型语言模型的经验
- 有将强化学习应用于大型语言模型的经验(如PPO、GRPO、RLHF、RLVR),最好具备大规模应用经验
- 在泛化性、鲁棒性或分布偏移方面有研究成果,包括发表论文或交付模型
- 严谨的实验实践:清晰的消融实验、仔细的控制变量以及从噪声结果中得出可靠结论的能力
- 具备分布式训练经验(如JAX、PyTorch、FSDP、Megatron)者优先
- 深入理解数据质量原则和最佳实践:愿意深入钻研数据,对评估数据集质量有强直觉,并能预判不同数据特征对模型训练结果的影响
福利待遇
- 每周75美元/75英镑或等值当地货币的午餐津贴
- 全面的健康和牙科福利,包括单独的心理健康预算
- RRSP匹配、401K、养老金计划
- 父母双方均可享受最长6个月的100%带薪育儿假补足
- 年度丰富福利:艺术与文化、健身/健康、优质时光以及工作空间改善补贴
- 教育和学习津贴,用于会议、课程和辅导
- 6周带薪假期(30个工作日!)
- 为远程员工提供前往其他办公室的差旅预算,以及年度聚会