高效注意力模型算法工程师
岗位摘要
参与高效注意力模型（包括但不限于线性注意力模型、状态空间模型、稀疏注意力模型）的研发、部署与微调工作；负责功能实现、性能优化、系统调优及硬件适配等技术工作；参与长文本对齐算法的研发工作
岗位职责
- 参与高效注意力模型（包括但不限于线性注意力模型、状态空间模型、稀疏注意力模型）的研发、部署与微调工作
- 负责功能实现、性能优化、系统调优及硬件适配等技术工作
- 参与长文本对齐算法的研发工作
- 根据业务需求复现相关自然语言处理算法
- 参与前沿算法与应用的研究工作
任职要求
- 具有自然语言处理、机器学习相关专业背景或相关工作经验
- 具备较强的算法开发能力，熟悉C++、Python、Shell、CUDA中的一种或多种编程语言
- 掌握传统NLP及深度学习NLP相关算法，并具有实际项目经验
- 熟练使用PyTorch、Megatron等深度学习框架
- 具有CUDA编程经验者优先考虑
- 对深度学习、Transformer架构及预训练技术有深入理解和实践经验，能够根据论文复现相关算法，具有大规模预训练模型研发和训练经验者优先
- 在ACL、EMNLP、COLM、NAACL等顶级会议发表高质量论文的作者优先