预训练研究工程师
岗位摘要
在模型架构、算法、数据处理和优化器开发等领域开展研究并实现解决方案；独立主导小型研究项目，并与团队成员协作推进更大规模的研究计划；设计、运行并分析科学实验，以加深对大型语言模型的理解；优化并扩展训练基础设施，提高效率与可靠性
岗位职责
- 在模型架构、算法、数据处理和优化器开发等领域开展研究并实现解决方案
- 独立主导小型研究项目，并与团队成员协作推进更大规模的研究计划
- 设计、运行并分析科学实验，以加深对大型语言模型的理解
- 优化并扩展训练基础设施，提高效率与可靠性
- 开发和改进开发工具，提升团队生产力
- 参与从底层优化到高层模型设计的整个技术栈
任职要求
- 计算机科学、机器学习或相关领域硕士或博士学位
- 具备扎实的软件工程能力，并有构建复杂系统的成功经验
- 精通 Python，并具有深度学习框架经验（优先 PyTorch）
- 熟悉大规模机器学习，尤其是语言模型相关场景
- 能够在研究目标与实际工程约束之间取得平衡
- 具备较强的问题解决能力和结果导向思维
- 优秀的沟通能力，并能在协作环境中工作
- 关心自身工作的社会影响
- 具有高性能、大规模机器学习系统的工作经验
- 熟悉 GPU、Kubernetes 和操作系统内部机制
- 具有使用 Transformer 架构进行语言建模的经验
- 了解强化学习技术
- 具有大规模 ETL 流程背景
- 结果导向，灵活且注重影响力
- 愿意承担职责描述之外的任务以支持团队
- 喜欢结对编程和协作工作
- 渴望深入学习机器学习研究
- 热衷于在单一、凝聚力强的团队中从事大规模 AI 研究项目
- 致力于让最先进模型与人类价值观和偏好对齐，理解并解释深度神经网络，或开发支持这些研究领域的新模型
- 将研究与工程视为一体两面，尽可能理解研究计划的各个方面，以最大化洞见的影响力
- 对 AI 安全及未来几年的总体进步有雄心，并致力于创造最好的成果