大模型推理框架优化实习生
岗位摘要
参与大模型推理框架优化,包括类vLLM/SGLang的推理框架开发与优化,例如模型推理适配、推理性能优化、系统性能分析调优、高并发推理系统优化等;参与AI Agent/Agentic Programming相关研发,包括构建AI Code Agent、探索AI驱动的软件开发流程,以及代码生成、自动…
岗位职责
- 参与大模型推理框架优化,包括类vLLM/SGLang的推理框架开发与优化,例如模型推理适配、推理性能优化、系统性能分析调优、高并发推理系统优化等
- 参与AI Agent/Agentic Programming相关研发,包括构建AI Code Agent、探索AI驱动的软件开发流程,以及代码生成、自动测试、自动修复等自动化开发能力
- 参与AI原生软件开发流程探索,结合Cursor、Claude Code、Codex等AI编程工具,探索AI在软件开发流程中的应用
任职要求
- 熟练使用C++或Python
- 对LLM、AI Agent或AI Coding方向有兴趣
- 学习能力强,持续关注AI技术发展
- 实习时间不少于6个月
加分项
- 使用过vLLM、SGLang、TensorRT
- LLM、LMDeploy 等推理框架
- 使用过LangGraph、AutoGen、CrewAI 等 Agent 框架
- 熟悉Linux、Git、Docker 等开发环境
- 有系统性能优化、推理优化或编译优化经验
福利待遇
- 薪资250-300元/天
- 表现优秀者有转正机会
- 参与前沿大模型推理框架与AI Agent系统研发
- 探索AI编程工具在软件开发流程中的应用
- 4天/周弹性实习,地点北京海淀区致真大厦
工作地址
北京海淀区致真大厦D1601