AI基础设施推理框架开发工程师

查看原岗位

地点：北京薪资：30-50K 日期：2026-03-03

岗位摘要

参与分布式推理系统建设，提供行业领先的LLM/多模态模型解决方案；针对大语言模型（LLM）、视觉生成（如Diffusion Models）等场景，开展端到端推理性能优化，重点降低推理延迟、提升吞吐量

计算机、电子工程、自动化、数学等相关专业优先
精通Python/C++，具备CUDA/BANGC等异构编程经验
对硬件算力与模型效率的平衡有深刻认知，能设计兼顾性能与成本的优化方案
深入理解LLM或者视觉生成模型原理，具备以下至少一个领域的实战经验：a)大模型推理框架：vLLM/SGLang/FasterTransformer/TensorRT-LLM；b)视觉生成系统：Diffusers/ComfyUI/xDiT
深入理解量化、kvcache、多机多卡并行等加速技术
有GPU/加速卡调优实践经验者优先
有开源仓库的贡献经验者优先
参与过LLM或者视觉生成端到端推理优化项目并实际落地者优先
有集群部署经验者优先
了解torch.compile/CUDAGraph/Triton者优先

北京海淀区北航致真大厦D座16层