大模型推理研发工程师
岗位摘要
研发并优化vLLM/SGLang/Ollama等主流推理框架，持续迭代新特性；支持主流大模型的高效推理与性能调优，提升线上服务稳定性；跟踪业界最新推理优化技术，完成技术验证并推动产品落地
岗位职责
- 研发并优化vLLM/SGLang/Ollama等主流推理框架，持续迭代新特性
- 支持主流大模型的高效推理与性能调优，提升线上服务稳定性
- 跟踪业界最新推理优化技术，完成技术验证并推动产品落地
任职要求
- 计算机、人工智能、数学等相关专业本科及以上学历
- 精通Python与C++，编程功底扎实，代码风格良好
- 深入理解深度学习原理及Transformer架构
- 熟悉至少一种大模型推理框架
- 了解计算机体系结构，掌握GPU(CUDA)编程及Nsight等性能分析工具者优先
- 具备出色的问题分析与解决能力，热衷攻克技术难题
福利待遇
- 年薪16薪，35-65K区间，具备行业竞争力
- 核心研发岗位，技术挑战大，成长空间广阔
- 位于北京望京国际研发园，交通便利，配套完善
工作地址
北京朝阳区望京国际研发园I座