推理框架工程师
岗位摘要
提升大语言模型推理引擎的计算效率，提高用户使用体验；跟进业界最新方案，进行实验并落地；探索创新性的推理方案，实现数量级级别的成本下降；熟练掌握Python、C++；熟练掌握CUDA，或拥有3年以上的计算密集型优化经验
岗位职责
- 提升大语言模型推理引擎的计算效率，提高用户使用体验
- 跟进业界最新方案，进行实验并落地
- 探索创新性的推理方案，实现数量级级别的成本下降
任职要求
- 熟练掌握Python、C++
- 熟练掌握CUDA，或拥有3年以上的计算密集型优化经验
- 拥有分布式系统设计经验者优先
- 2-5年工作经验，代码能力好，ACM/NOI等比赛获奖者优先
- 本科及以上学历
福利待遇
- 提供16薪薪酬，薪资范围为25-50K
工作地址
北京海淀区京东科技大厦13F