返回岗位列表

大模型推理优化工程师

查看原岗位

地点：北京薪资：40-70K 日期：2026-05-08

岗位摘要

负责大模型推理服务的落地和优化，推理引擎加速，推动前沿大模型新架构的落地；持续跟进前沿技术，优化大模型推理性能，提升线上模型服务吞吐量，降低模型推理延迟，控制推理机器成本；负责开发和优化大模型推理系统，提升推理系统的性能、稳定性、可观测性和易用性

岗位职责

负责大模型推理服务的落地和优化，推理引擎加速，推动前沿大模型新架构的落地
持续跟进前沿技术，优化大模型推理性能，提升线上模型服务吞吐量，降低模型推理延迟，控制推理机器成本
负责开发和优化大模型推理系统，提升推理系统的性能、稳定性、可观测性和易用性
使用GPU编程和系统优化手段实现高性能推理优化算法，并将其落地于大模型推理系统中

任职要求

统招硕士及以上学历，计算机科学、人工智能等相关专业
熟悉Python，掌握常见的LLM推理加速框架如sglang/vllm等，能够根据业务需求进行优化
熟悉CPU/GPU下性能优化基本原理和方式方法，有服务端GPU程序加速经验
熟悉分布式推理常用加速方法，有分布式系统开发经验或大模型分布式部署经验者优先
具备严谨细致的工作态度和较强的团队协作能力

福利待遇

提供具有市场竞争力的薪酬（40-70K·16薪）
工作地点位于北京海淀区搜狐网络大厦，交通便利
加入智谱华章，接触前沿AI技术

工作地址

北京海淀区搜狐网络大厦7层