返回岗位列表

AI infra推理框架开发

查看原岗位

地点：合肥薪资：30-50K 日期：2026-05-22

岗位摘要

针对主流大语言模型在寒武纪平台开展端到端的推理性能优化和精度分析，提升模型推理效率及精度；参与分布式推理框架设计开发，提供行业领先的LLM/多模态模型解决方案；开发和维护大语言模型（LLM）量化工具等

岗位职责

针对主流大语言模型在寒武纪平台开展端到端的推理性能优化和精度分析，提升模型推理效率及精度
参与分布式推理框架设计开发，提供行业领先的LLM/多模态模型解决方案
开发和维护大语言模型（LLM）量化工具等

任职要求

计算机、电子工程、自动化、数学等相关专业优先，硕士学历
精通Python/C++编程语言
熟悉vLLM、SGLang等开源推理框架
深入理解量化、KV Cache、多机多卡并行等模型加速技术

加分项

有大模型推理/加速相关开源仓库的贡献经验者优先
参与过LLM或者视觉生成端到端推理优化项目，并实际落地
具备CUDA或者其他AI加速卡的算子开发经验
熟悉torch.
compile/CUDAGraph/Triton

福利待遇

提供具有竞争力的薪酬，薪资范围30-50K·15薪
工作地点位于合肥蜀山区中国（合肥）国际智能语音产业园，办公环境优越
寒武纪作为AI芯片领域的领先企业，能够接触前沿的大模型推理技术
参与行业领先的LLM及多模态模型解决方案开发，职业发展前景广阔

工作地址

合肥蜀山区安徽寒武纪信息科技有限公司高新区习友路3333号中国（合肥）国际智能语音产业园研发中心楼