研究工程师/研究科学家(Token 方向)
岗位摘要
从零开始构建大规模机器学习系统;参与代码库和基础设施的各个环节,包括提升大规模任务的集群可靠性、改进吞吐量与效率、运行和设计科学实验以及改进开发工具;在理解研究背景及其重要性的基础上编写代码
岗位职责
- 从零开始构建大规模机器学习系统
- 参与代码库和基础设施的各个环节,包括提升大规模任务的集群可靠性、改进吞吐量与效率、运行和设计科学实验以及改进开发工具
- 在理解研究背景及其重要性的基础上编写代码
- 优化新型注意力机制的吞吐量
- 比较两种 Transformer 变体的计算效率
- 将维基百科数据集制作成模型易于消费的格式
- 将分布式训练任务扩展至数千块 GPU
- 编写容错策略的设计文档
- 创建语言模型中 token 之间注意力机制的可交互可视化
任职要求
- 以结果为导向,注重灵活性和影响力
- 愿意主动承担岗位职责之外的工作
- 喜欢结对编程
- 希望深入了解机器学习研究
- 关心工作的社会影响
- 优先考虑具备高性能、大规模机器学习系统经验者
- 优先考虑熟悉 GPU、Kubernetes、PyTorch 或操作系统内部机制者
- 优先考虑具备基于 Transformer 的语言建模经验者
- 优先考虑具备强化学习经验者
- 优先考虑具备大规模 ETL 经验者
- 最低学历为学士学位,或具备同等教育、培训及/或经验组合
- 所学专业需与岗位相关,并通过课程学习等证明