LLM预训练数据算法工程师
岗位摘要
从Web、Book、Code等多源数据进行数据挖掘与质量分析，贡献到万亿级别token的高质量语料库；利用大规模CPU/GPU集群优化数据管线，支撑PB级数据的处理与持续迭代；参与数据策略制定与消融实验设计，深度分析不同数据方案对模型能力的影响
岗位职责
- 从Web、Book、Code等多源数据进行数据挖掘与质量分析，贡献到万亿级别token的高质量语料库
- 利用大规模CPU/GPU集群优化数据管线，支撑PB级数据的处理与持续迭代
- 参与数据策略制定与消融实验设计，深度分析不同数据方案对模型能力的影响
任职要求
- 计算机、数学、数据科学等相关专业本科及以上学历
- 扎实的计算机科学和编程功底，熟悉Python，具备深度学习/强化学习基础知识
- 对数据科学有兴趣，有较好的数据sense，能从大规模数据分析与实验中识别影响模型表现的关键信号
- 具备强烈的好奇心与自驱力，对AI数据体系建设与模型优化充满热情
- 有参与LLM预训练数据相关工作经验（如开源数据集构建、评测集设计、数据清洗pipeline等）优先
- 每周不少于4天到岗，且能实习3个月以上
加分项
- 有参与 LLM 预训练数据相关工作的经验（如开源数据集构建、评测集设计、数据清洗 pipeline 等）优先
- 每周不少于4天到岗，且能实习3个月以上
- 刘女士 刚刚活跃
福利待遇
- 实习薪资500-1000元/天
工作地址
北京海淀区大恒科技大厦12F