高性能分布式存储工程师
岗位摘要
研发面向大模型推理服务的高性能KVCache存储系统,解决海量上下文长度和高并发推理请求下的成本与性能问题;深度配合推理业务,在存储架构与推理业务之间寻找最佳协同设计方案,持续优化并支撑模型推理对存储的需求
岗位职责
- 研发面向大模型推理服务的高性能KVCache存储系统,解决海量上下文长度和高并发推理请求下的成本与性能问题
- 深度配合推理业务,在存储架构与推理业务之间寻找最佳协同设计方案,持续优化并支撑模型推理对存储的需求
- 深度应用各种高性能技术,挑战硬件的物理性能极限,推动存储系统性能突破
任职要求
- 具备扎实的C++/Rust/Go编程能力,深入理解多线程、无锁、异步、内存管理及性能分析工具(Perf、eBPF),对代码质量有较高追求
- 具备高性能技术应用经验,在IOUring、NVMe、SPDK、RDMA等方向有丰富实践经验和深入理解,熟悉常见技术难点与陷阱
- 对业界主流存储系统(Ceph、3FS、RocksDB、LevelDB、TiKV、Redis等)有丰富实战经验,或具备大规模自研分布式存储系统的工程经验
- 具备宽广的技术视野,持续追踪工业界前沿技术,对学术界创新思路保持敏感,理解LLM推理原理,不局限于单纯编码工作
- 工作主动性强,责任心重,不过度设立工作边界,对问题具备刨根问底的钻研精神