返回岗位列表

大模型优化开发工程师

查看原岗位

地点：北京薪资：25-45K 日期：2026-03-03

岗位摘要

针对Qwen等主流大语言模型，在寒武纪平台开展端到端的推理性能优化和精度分析，提升模型推理效率及精度；参与分布式推理框架设计开发，提供行业领先的LLM/多模态模型解决方案；开发和维护大语言模型（LLM）量化工具

岗位职责

针对Qwen等主流大语言模型，在寒武纪平台开展端到端的推理性能优化和精度分析，提升模型推理效率及精度
参与分布式推理框架设计开发，提供行业领先的LLM/多模态模型解决方案
开发和维护大语言模型（LLM）量化工具

任职要求

计算机、电子工程、自动化、数学等相关专业硕士优先
精通Python/C++编程语言
熟悉vLLM、SGLang等开源推理框架
深入理解量化、KV Cache、多机多卡并行等加速技术
有大模型推理/加速相关开源仓库贡献经验者优先
参与过LLM或视觉生成端到端推理优化项目并实际落地者优先
具备CUDA或其他AI加速卡算子开发经验者优先
熟悉torch.compile/CUDAGraph/Triton者优先

加分项

有大模型推理/加速相关开源仓库的贡献经验者优先
参与过LLM或者视觉生成端到端推理优化项目，并实际落地
具备CUDA或者其他AI加速卡的算子开发经验
熟悉torch.
compile/CUDAGraph/Triton
朱文博刚刚活跃

工作地址

北京海淀区北京航空航天大学学院路校区致真大厦致真大厦D座