LLM预训练算法工程师
岗位摘要
参与大规模预训练语言模型的预训练工作；负责Scaling Law构建、性能优化、硬件适配等技术工作；根据业务需求复现相关自然语言处理算法；参与前沿算法与应用的研究工作；自然语言处理、机器学习及相关专业背景
岗位职责
- 参与大规模预训练语言模型的预训练工作
- 负责Scaling Law构建、性能优化、硬件适配等技术工作
- 根据业务需求复现相关自然语言处理算法
- 参与前沿算法与应用的研究工作
任职要求
- 自然语言处理、机器学习及相关专业背景
- 3年以上相关领域工作经验
- 较强的算法开发能力，熟悉C++、Python、Shell、CUDA等一种或多种编程语言
- 掌握传统NLP、深度学习NLP相关算法，并具有实战经验
- 熟练使用Pytorch、Megatron等深度学习框架
- 对深度学习、Transformer、预训练有深入理解和实践经验
- 能根据论文复现相关算法
- 有大规模预训练模型研发和训练经验者优先
- ACL、EMNLP、COLING、NAACL等高质量会议论文作者优先
工作地址
北京海淀区科建大厦4层