深度学习框架研发工程师
岗位摘要
负责大规模预训练框架的研发、优化和维护，根据业务需求持续改进训练框架和策略，提升模型训练效率；分析和定位训练中的性能瓶颈，实施针对性优化措施，提升训练效率和稳定性；跟进业界技术进展，不断同步与集成最新训练优化策略
岗位职责
- 负责大规模预训练框架的研发、优化和维护，根据业务需求持续改进训练框架和策略，提升模型训练效率
- 分析和定位训练中的性能瓶颈，实施针对性优化措施，提升训练效率和稳定性
- 跟进业界技术进展，不断同步与集成最新训练优化策略
任职要求
- 对自然语言处理、计算机视觉和多模态算法有深入理解，熟悉主流的LLM和VLM模型架构，具备分布式训练经验
- 精通Python编程语言，熟悉PyTorch深度学习框架和Megatron分布式训练框架
- 具备大规模预训练优化或MoE训练优化经验者优先考虑
- 在ACM、NOI、IOI、超算比赛中有获奖经历者优先
- 具有CUDA算子优化与profiling能力者优先
- 硕士及以上学历，3-5年相关工作经验
加分项
- 在ACM、NOI、IOI、超算比赛中有获奖经历者优先
- 具有 cuda 算子优化/profiling 能力者优先
- 张先生 刚刚活跃
福利待遇
- 薪资范围40-70K，全年16薪
工作地址
北京海淀区搜狐网络大厦11层