返回岗位列表

Cognition

研究工程师(中期训练)

地点:美国 薪资:薪资未公开 日期:2026-07-20

岗位摘要

设计和迭代用于后期训练和退火训练运行的高质量数据混合方案,开发数据来源、过滤和加权的原则性方法,以增强模型能力而不降低通用性能;通过精心设计的数据策略和训练干预,推动编码、数学和长程推理方面的针对性改进,将研究见解转化为代理系统可衡量的能力提升

岗位职责

  • 设计和迭代用于后期训练和退火训练运行的高质量数据混合方案,开发数据来源、过滤和加权的原则性方法,以增强模型能力而不降低通用性能
  • 通过精心设计的数据策略和训练干预,推动编码、数学和长程推理方面的针对性改进,将研究见解转化为代理系统可衡量的能力提升
  • 开发和评估可大规模生成训练信号的合成数据管道,理解合成方法的局限性和失败模式,并构建能在生产训练中经得起考验的方法
  • 研究和优化多阶段学习率调度、预热策略以及跨训练阶段的计算资源分配,理解调度选择如何与数据分布和模型行为相互作用
  • 研究并实现扩展有效上下文长度而不损害短上下文性能的方法,包括位置编码策略、数据构建和针对性评估
  • 构建能够区分真实能力提升与基准过拟合的评估体系,在训练决策与Devin及其他系统部署中的实际表现之间形成闭环
  • 衡量中期训练干预措施随计算和数据规模扩展的效果,在现有方法遇到瓶颈时开发新方法,要求严谨的经验主义和原创思维

任职要求

  • 对LLM训练流程有深入了解:预训练数据、优化、架构以及中期训练和后训练的交互方式
  • 具备大型模型持续预训练、退火或后期数据混合的实践经验
  • 对数据质量有强烈直觉:了解什么使数据集对训练有用,如何大规模过滤和整理数据,以及数据混合选择如何在评估中产生复合效应
  • 有开发或评估用于能力提升的合成数据管道的经验
  • 精通Python和深度学习框架(PyTorch),能够调试大规模分布式训练
  • 在优化、统计学和机器学习理论方面有扎实基础,能够区分真实效果与噪声、不稳定性和过拟合
  • 有原创贡献的记录:出版物、开源项目或对现有方法的显著改进

福利待遇

  • 参与构建世界首个AI软件工程师Devin的核心团队
  • 与来自Scale AI、Palantir、Cursor、Waymo、Tesla等顶尖AI公司的世界级人才共事
  • 解决人工智能领域最具挑战性的问题,构建能对现实世界任务进行推理的AI
  • 在模型流程中最高杠杆作用的环节之一拥有自主权和影响力
  • 有机会推动从研究到生产的端到端训练决策