大规模训练研究工程师
岗位摘要
设计、实现并优化Together大规模训练基础设施的核心组件；集成新的模型架构，验证训练正确性与收敛性，并针对生产微调工作负载优化性能；对分布式训练工作负载进行性能分析，识别并消除计算、内存和通信方面的瓶颈
岗位职责
- 设计、实现并优化Together大规模训练基础设施的核心组件
- 集成新的模型架构，验证训练正确性与收敛性，并针对生产微调工作负载优化性能
- 对分布式训练工作负载进行性能分析，识别并消除计算、内存和通信方面的瓶颈
- 设计并执行实验，验证性能假设，并将新方法与最先进方法进行基准比较
- 与研究科学家紧密合作，将新颖训练方法产品化，并参与论文发表与开源发布
- 快速支持Together平台新发布的开源基础模型
- 构建和维护实验基础设施，加速研究并确保生产级可靠性与可扩展性
任职要求
- 具备独立将模糊的性能或基础设施问题从调研推进至部署的证明能力