Code大模型算法工程师/研究员
岗位摘要
负责代码预训练数据的合成、清洗、权重分配、来源扩充等工作,持续提高代码预训练及中程训练阶段的数据质量;探究预训练小领域数据的配比和最终效果之间的关系,开发数据合成链路,解决代码模型中的关键问题
登录后保留你的岗位线索
邮箱登录后可继续查看完整职责、任职要求和原岗位入口,并使用收藏与浏览记录沉淀适合自己的机会。
岗位职责
- 负责代码预训练数据的合成、清洗、权重分配、来源扩充等工作,持续提高代码预训练及中程训练阶段的数据质量
- 探究预训练小领域数据的配比和最终效果之间的关系,开发数据合成链路,解决代码模型中的关键问题
- 探究深度推理技术,研究Test-time Compute和模型效果的Scaling laws
- 参与后训练奖励模型、强化学习算法的一系列优化流程,探究线上代码补全数据到RL过程的数据飞轮
- 专注于代码强化学习中奖励模型(Reward Model)的优化和创新,解决判别能力较差的场景
- 探究合成数据进行代码奖励模型的预训练,组织标注人员进行代码奖励模型的标注
- 负责Critic的前沿探究,强化学习过程中可执行代码与单元测试的质量过滤和扩充
任职要求
- 本科及以上学历,计算机、物理、数学、神经科学或相关专业
- 具备扎实的计算机科学功底和编程能力,熟悉常见算法和数据结构,具有良好的编程习惯
- 熟悉语言模型的基本技术、模型结构,对AI的未来有信仰和工作热情
- 工作认真细致,计划性强,具有刨根问底的探究精神,追求最终效果而非盲目追求新颖方法
- 有NOI、ACM竞赛经历者优先,有推荐、搜索领域出色的数据驱动工作者优先
- 熟悉强化学习相关技术和细节,曾深度参与强化学习项目或语言模型项目
加分项
- 有NOI、ACM竞赛经历者优先
- 有推荐、搜索领域出色的数据驱动工作者优先
- 熟悉强化学习相关技术和细节,曾深度参与强化学习项目或语言模型项目
- 具有较强的工程能力,能迅速熟悉公司内外部平台工具使用,具有主动提升效率的意识
- 祝女士 刚刚活跃
福利待遇
- 具有竞争力的薪酬待遇:60-90K·16薪
- 硕士及以上学历提供良好的职业发展平台
- 3-5年工作经验处于职业黄金期,晋升空间广阔
- 工作地点位于北京海淀区大恒科技大厦,地理位置优越
- 能够参与大模型最前沿的技术研发,与行业精英团队合作
工作地址
北京海淀区大恒科技大厦南座12层
登录后查看完整岗位详情
使用邮箱验证码登录后,可查看完整职责、任职要求、原岗位入口,并继续使用收藏和浏览记录。列表摘要保持公开,完整详情用于保护数据质量和降低恶意抓取。