预训练数据算法研究员/工程师
岗位摘要
负责基础模型预训练数据算法研究,构建覆盖数据采集、清洗、过滤、质量评估、配比及迭代优化的完整数据体系;研究课程学习、数据混合、合成数据、自训练、自蒸馏等关键技术,不断优化模型训练效果
岗位职责
- 负责基础模型预训练数据算法研究,构建覆盖数据采集、清洗、过滤、质量评估、配比及迭代优化的完整数据体系
- 研究课程学习、数据混合、合成数据、自训练、自蒸馏等关键技术,不断优化模型训练效果
- 建立数据质量评估体系,分析不同数据策略对模型知识、推理及泛化能力的影响
- 与模型训练、评估团队共同构建数据飞轮,让数据成为模型持续成长的重要驱动力
任职要求
- 熟悉自然语言处理、数据挖掘、大规模数据处理或数据中心人工智能相关方向
- 具备优秀的数据分析能力及工程能力,能够独立完成数据实验设计、效果分析与管道开发
- 对数据驱动模型能力增长具有深入理解或实践经验,有合成数据、数据扩展等相关研究经历者优先
- 在各类竞赛中取得突出成绩,或在开源社区有重要贡献者优先
工作地址
北京海淀区大恒科技大厦12层