返回岗位列表

大模型和分布式推理优化实习生

查看原岗位

地点：北京薪资：200-300元/天日期：2026-05-08

岗位摘要

参与分布式推理系统建设，为LLM/多模态模型提供行业领先的解决方案；针对大语言模型等场景，开展端到端推理性能优化，降低推理延迟并提升吞吐量；针对大语言模型等场景，开展端到端推理精度分析，提升模型精度

岗位职责

参与分布式推理系统建设，为LLM/多模态模型提供行业领先的解决方案
针对大语言模型等场景，开展端到端推理性能优化，降低推理延迟并提升吞吐量
针对大语言模型等场景，开展端到端推理精度分析，提升模型精度
开发和维护大语言模型量化工具等

任职要求

计算机、电子工程、自动化、数学等相关专业在读硕士，优先考虑
精通Python/C++开发
深入理解LLM或视觉生成模型框架和原理
深入理解量化、kvcache、多机多卡并行等加速技术
实习时间不少于6个月，每周出勤至少4天
有GPU/加速卡调优实践经验者优先
有开源仓库贡献经验者优先
参与过LLM或视觉生成端到端推理优化项目并实际落地者优先
有集群部署经验者优先
了解torch.compile/CUDAGraph/Triton等优化技术者优先
了解vllm、sglang、megatron、verl等框架者优先

加分项

参与过LLM或者视觉生成端到端推理优化项目，并实际落地
了解torch.
compile/CUDAGraph/Triton
了解vllm, sglang, megatron, verl等

福利待遇

参与行业领先的大模型推理优化项目，积累前沿AI技术实战经验
深入接触vllm、sglang、megatron、verl等主流开源推理框架
技术驱动的团队氛围，适合技术钻研与快速成长
接触GPU/加速卡调优等底层优化技术，提升系统级工程能力

工作地址

北京海淀区致真大厦D1601