返回岗位列表

寒武纪

AIGC推理解决方案工程师

地点:北京 薪资:25-50K 日期:2026-06-26

岗位摘要

参与分布式推理系统建设,提供行业领先的LLM/多模态模型解决方案;针对大语言模型(LLM)、视觉生成(如Diffusion Models)等场景,开展端到端推理性能优化,重点降低推理延迟、提升吞吐量

岗位职责

  • 参与分布式推理系统建设,提供行业领先的LLM/多模态模型解决方案
  • 针对大语言模型(LLM)、视觉生成(如Diffusion Models)等场景,开展端到端推理性能优化,重点降低推理延迟、提升吞吐量
  • 深度优化推理框架,提升框架在异构硬件上的扩展性与易用性
  • 开发自动化性能分析工具,实现推理瓶颈的快速定位与优化建议生成

任职要求

  • 计算机、电子工程、自动化、数学等相关专业优先
  • 精通Python/C++,具备CUDA/BANGC等异构编程经验
  • 对硬件算力与模型效率的平衡有深刻认知,能设计兼顾性能与成本的优化方案
  • 深入理解LLM或者视觉生成模型原理,具备以下至少一个领域的实战经验:大模型推理框架(vLLM/SGLang/FasterTransformer/TensorRT-LLM)或视觉生成系统(Diffusers/ComfyUI/xDiT)
  • 深入理解量化、kvcache、多机多卡并行等加速技术
  • 有GPU/加速卡调优实践经验者优先
  • 有开源仓库的贡献经验者优先
  • 参与过LLM或者视觉生成端到端推理优化项目并实际落地者优先
  • 有集群部署经验者优先
  • 了解torch.compile/CUDAGraph/Triton者优先

加分项

  • 参与过LLM或者视觉生成端到端推理优化项目,并实际落地
  • 了解torch.
  • compile/CUDAGraph/Triton
  • 刘先生 刚刚活跃

福利待遇

  • 薪资范围25-50K
  • 工作地点在北京海淀区致真大厦
  • 经验不限,学历不限
  • 有机会参与行业领先的AIGC推理解决方案项目
  • 与优秀团队合作,发表算法相关优秀论文

工作地址

北京海淀区致真大厦北京市海淀区知春路7号致真大厦D座