AI Infra工程师

查看原岗位

地点：北京薪资：30-60K 日期：2026-05-08

岗位摘要

参与分布式推理系统建设，为LLM及多模态模型提供解决方案；针对大语言模型及视觉生成等场景，开展端到端推理性能优化，重点降低推理延迟、提升吞吐量；深度优化推理框架，提升框架在异构硬件上的扩展性与易用性

计算机、电子工程、自动化、数学等相关专业优先
精通Python/C++，具备CUDA/BANGC等异构编程经验
对硬件算力与模型效率的平衡有深刻认知，能设计兼顾性能与成本的优化方案
深入理解LLM或视觉生成模型原理，具备至少一个领域的实战经验（vLLM/SGLang/FasterTransformer/TensorRT-LLM或Diffusers/ComfyUI/xDiT）
深入理解量化、KVCache、多机多卡并行等加速技术

北京海淀区致真大厦D座16层