推理框架工程师
岗位摘要
提升 LLM 推理引擎的计算效率,提高用户使用体验;跟进业界最新推理优化方案,进行实验验证与落地;探索创新性的推理方案,实现数量级级别的成本下降;设计并优化分布式推理系统架构;熟练掌握 Python 和 C++
登录后保留你的岗位线索
邮箱登录后可继续查看完整职责、任职要求和原岗位入口,并使用收藏与浏览记录沉淀适合自己的机会。
岗位职责
- 提升 LLM 推理引擎的计算效率,提高用户使用体验
- 跟进业界最新推理优化方案,进行实验验证与落地
- 探索创新性的推理方案,实现数量级级别的成本下降
- 设计并优化分布式推理系统架构
任职要求
- 熟练掌握 Python 和 C++
- 熟练掌握 CUDA,或拥有3年以上的计算密集型优化经验
- 同时拥有分布式系统设计经验者优先
- 2-5年工作经验,代码能力优秀
- ACM/NOI 等竞赛获奖者优先
福利待遇
- 25-50K·16薪,具有竞争力的薪酬
- 知名 AI 大厂,技术氛围浓厚
- 鼓励技术创新与探索
工作地址
北京海淀区京东科技大厦13F
登录后查看完整岗位详情
使用邮箱验证码登录后,可查看完整职责、任职要求、原岗位入口,并继续使用收藏和浏览记录。列表摘要保持公开,完整详情用于保护数据质量和降低恶意抓取。