大模型推理框架研发专家
岗位摘要
在vLLM推理引擎上适配及优化各类SOTA模型;在GPU上进行稳定高性能的模型部署应用;深入研发及优化vLLM推理引擎,与内部加速库和系统软件团队协同工作;对SOTA模型进行功能适配、精度调优和性能提升
登录后保留你的岗位线索
邮箱登录后可继续查看完整职责、任职要求和原岗位入口,并使用收藏与浏览记录沉淀适合自己的机会。
岗位职责
- 在vLLM推理引擎上适配及优化各类SOTA模型
- 在GPU上进行稳定高性能的模型部署应用
- 深入研发及优化vLLM推理引擎,与内部加速库和系统软件团队协同工作
- 对SOTA模型进行功能适配、精度调优和性能提升
- 贡献技术内容到开发者网站及技术Blog
- 参与业界顶尖会议和论坛并发挥技术影响力
任职要求
- 计算机科学或电子工程相关专业硕士及以上学历
- 5年以上相关领域研发经验
- 具备良好的C++和Python编程能力
- 有CUDA编程实战经验,熟悉GPU架构
- 在分布式训练、CUDA加速、大模型算法、多模态算法或并行计算等至少一个方向有深入研发经验
福利待遇
- 参与前沿AI大模型推理框架研发工作
- 与业界顶尖团队深入合作交流
- 技术影响力建设和行业会议参与机会
- 有竞争力的薪酬福利体系
工作地址
上海浦东新区长泰广场B座12楼
登录后查看完整岗位详情
使用邮箱验证码登录后,可查看完整职责、任职要求、原岗位入口,并继续使用收藏和浏览记录。列表摘要保持公开,完整详情用于保护数据质量和降低恶意抓取。