返回岗位列表

大模型推理框架开发工程师

查看原岗位

地点：上海薪资：25-50K 日期：2026-05-08

岗位摘要

基于壁仞GPU软件栈，开发大模型和多模态模型推理服务框架；围绕并行策略、GPU通信、算子融合、量化压缩等方面持续优化大语言模型推理性能；降低模型推理延迟，提升线上模型服务吞吐；硕士及以上学历，计算机、数学、软件工程、自动化、通信、微电子等相关专业，三年及以上相关工作经历

岗位职责

基于壁仞GPU软件栈，开发大模型和多模态模型推理服务框架
围绕并行策略、GPU通信、算子融合、量化压缩等方面持续优化大语言模型推理性能
降低模型推理延迟，提升线上模型服务吞吐

任职要求

硕士及以上学历，计算机、数学、软件工程、自动化、通信、微电子等相关专业，三年及以上相关工作经历
扎实编程能力，熟练使用C/C++或Python
熟悉大模型推理技术栈，有vLLM、SGLang、LLMDeploy、TensorRT-LLM等大模型推理框架适配开发经验者优先
有CUDA编程经验者优先
热爱技术、追求卓越，具备良好的学习能力和团队协作能力，自驱力强，逻辑思维强

福利待遇

具有竞争力的薪酬福利，25-50K·15薪
壁仞科技优质平台与技术资源
参与前沿大模型推理技术研发

工作地址

上海闵行区壁仞科技16号楼