多模态中期训练数据工程师
岗位摘要
将合成编码数据扩展到数万亿令牌规模，并进行大规模Docker验证；通过合成数据生成，将旗舰模型的智能提炼到轻量级模型中；优化中期训练数据混合比例，以提升强化学习的性能上限；设计长上下文数据配方
岗位职责
- 将合成编码数据扩展到数万亿令牌规模，并进行大规模Docker验证
- 通过合成数据生成，将旗舰模型的智能提炼到轻量级模型中
- 优化中期训练数据混合比例，以提升强化学习的性能上限
- 设计长上下文数据配方
- 为中期训练检查点开发稳健且多样化的评估方法
任职要求
- 具备机器学习和大型模型扩展方面的专业知识，熟悉各类扩展定律
- 拥有强大的机器学习实验设计能力
- 熟悉为文本、图像、音频和视频模态策划AI训练数据的最新技术
- 在Spark、Ray等大规模数据处理框架方面具备强大的工程能力
- 工作地点位于湾区（旧金山和帕洛阿尔托），候选人需在湾区附近或愿意搬迁
福利待遇
- 全面的医疗、视力和牙科保险
- 401(k)退休计划
- 短期和长期残疾保险
- 各种其他折扣和福利