返回岗位列表

大模型推理优化系统工程师

查看原岗位

地点：上海薪资：薪资未公开日期：2026-05-12

岗位摘要

参与分布式大模型推理框架的开发与优化，提升推理性能与吞吐量；针对不同场景的LLM请求特点，优化GPU计算流程，打造业内领先的高效LLM推理引擎；调研并引入前沿机器学习系统技术，推动系统架构的持续优化升级

岗位职责

参与分布式大模型推理框架的开发与优化，提升推理性能与吞吐量
针对不同场景的LLM请求特点，优化GPU计算流程，打造业内领先的高效LLM推理引擎
调研并引入前沿机器学习系统技术，推动系统架构的持续优化升级
与算法团队深度合作，探索算法-系统协同优化方案，提升整体推理效率

任职要求

计算机、电子、自动化、软件等相关专业，本科及以上学历
具备1-3年相关工作经验
在读学生能实习6个月以上优先
熟悉大模型推理优化相关技术
了解分布式系统与GPU计算优化

工作地址

上海徐汇区西岸智塔西塔楼30F