预训练研究工程师/研究科学家
岗位摘要
在模型架构、算法、数据处理和优化器开发等领域开展研究并实现解决方案；独立领导小型研究项目，并与团队成员协作推进大型研究计划；设计、运行并分析科学实验，以加深对大型语言模型的理解；优化并扩展训练基础设施，提高效率与可靠性
岗位职责
- 在模型架构、算法、数据处理和优化器开发等领域开展研究并实现解决方案
- 独立领导小型研究项目，并与团队成员协作推进大型研究计划
- 设计、运行并分析科学实验，以加深对大型语言模型的理解
- 优化并扩展训练基础设施，提高效率与可靠性
- 开发并改进开发工具，提升团队生产力
- 参与从底层优化到高层模型设计的整个技术栈
任职要求
- 计算机科学、机器学习或相关领域的高级学位（硕士或博士）
- 具备扎实的软件工程能力，并有构建复杂系统的成功经验
- 精通 Python，并有深度学习框架经验（优先 PyTorch）
- 熟悉大规模机器学习，尤其是语言模型相关场景
- 能够平衡研究目标与实际工程约束
- 具备出色的问题解决能力和结果导向思维
- 具备优秀的沟通能力，能在协作环境中工作
- 关心自身工作的社会影响
- 有高性能、大规模机器学习系统的工作经验
- 熟悉 GPU、Kubernetes 和操作系统内部机制
- 有使用 Transformer 架构进行语言建模的经验
- 了解强化学习技术
- 具备大规模 ETL 流程背景
- 结果导向，注重灵活性与影响力
- 愿意承担职责范围之外的任务以支持团队
- 喜欢结对编程和协作工作
- 渴望深入学习机器学习研究
- 热衷于在单一凝聚力团队中从事大规模 AI 研究项目
- 致力于将最先进模型与人类价值偏好对齐，理解并解释深度神经网络，或开发新模型支持这些研究方向
- 将研究与工程视为同一枚硬币的两面，尽可能全面理解研究计划以最大化洞见影响
- 对 AI 安全和未来几年总体进步有雄心，并致力于创造长期最佳结果