推理框架工程师
岗位摘要
提升LLM推理引擎的计算效率，提高用户使用体验；跟进业界最新方案，实验并落地；探索创新性的推理方案，实现数量级级别的成本下降；熟练掌握Python、C++；熟练掌握CUDA，或拥有3年以上的计算密集型优化经验
岗位职责
- 提升LLM推理引擎的计算效率，提高用户使用体验
- 跟进业界最新方案，实验并落地
- 探索创新性的推理方案，实现数量级级别的成本下降
任职要求
- 熟练掌握Python、C++
- 熟练掌握CUDA，或拥有3年以上的计算密集型优化经验
- 同时拥有分布式系统设计经验者优先
- 2-5年工作经验，代码能力好
- ACM/NOI等比赛获奖者优先
工作地址
上海黄浦区中海国际中心B座