返回岗位列表

核心系统研发-大模型推理引擎研发

查看原岗位

地点：杭州薪资：40-70K 日期：2026-06-26

岗位摘要

开发高性能大模型推理引擎及相关核心组件，负责请求/Token/KVCache生命周期管理、高性能KVCache通信库、EPD分离框架等；负责分布式KVCache存储基建，包括显存/内存/磁盘KVCache管理及缓存策略优化

岗位职责

开发高性能大模型推理引擎及相关核心组件，负责请求/Token/KVCache生命周期管理、高性能KVCache通信库、EPD分离框架等
负责分布式KVCache存储基建，包括显存/内存/磁盘KVCache管理及缓存策略优化

任职要求

工程能力强，掌握Python、C/C++、Rust至少一门语言，能处理系统复杂度，具备系统设计和优化能力
有扎实的计算机系统基础，包括操作系统、计算机网络等
加分项：参与过大型项目开发
加分项：熟悉vLLM、SGLang、Mooncake、LMCache等推理项目
加分项：高中学科竞赛金银牌或大学ICPC/CCPC成绩优异
加分项：有系统方向背景（分布式系统、操作系统、网络、高性能计算等），参与过科研或业界项目

加分项

参与过大型项目开发
熟悉vLLM、SGLang、Mooncake、LMCache等推理项目
高中学科竞赛金银牌 / 大学ICPC/CCPC成绩优异
有系统方向背景（分布式系统、操作系统、网络、高性能计算等），参与过科研或业界项目
罗女士 2周内活跃

福利待遇

薪资范围：40-70K·14薪
工作地点：杭州拱墅区汇金国际A座
经验不限，本科及以上学历

工作地址

杭州拱墅区汇金国际A座