推理引擎工程师
岗位摘要
负责美团搜索推荐各场景推理引擎架构的设计与开发，覆盖大语言模型与搜推模型两类场景；负责推理服务的降本增效，通过性能优化持续降低单次推理成本，支撑业务规模增长；跟踪并研究AI领域前沿技术发展，结合业务需求进行技术预研和落地实践
岗位职责
- 负责美团搜索推荐各场景推理引擎架构的设计与开发，覆盖大语言模型与搜推模型两类场景
- 负责推理服务的降本增效，通过性能优化持续降低单次推理成本，支撑业务规模增长
- 跟踪并研究AI领域前沿技术发展，结合业务需求进行技术预研和落地实践
任职要求
- 计算机、自动化、电子信息或相关专业本科及以上学历
- 熟悉C++/Python等编程语言，深入理解多线程编程、性能优化、分布式系统设计等核心技术
- 深入理解GPU体系结构（SM、显存带宽、Warp调度等），有CUDA编程与性能调优经验
- 熟悉主流推理框架（vLLM/TensorRT-LLM/SGLang/TensorRT等）中至少一种的架构与源码
- 对技术有强烈热情，具备持续学习能力和钻研精神，代码质量意识强，工作态度严谨
- 具备良好的沟通协作能力和团队精神，有较强的主动性和求知欲
福利待遇
- 负责美团核心搜索推荐系统的技术架构，覆盖传统搜推和AI应用场景，业务影响力大，成长空间广阔
- 作为美团大规模的GPU应用场景之一，有机会深入探索异构计算领域的前沿技术，技术成长快