AI推理工程师(算子)
岗位摘要
负责自研AI芯片推理生态软件设计;适配主流推理框架如PyTorch、VLLM等;开发自研推理引擎并进行软硬件协同优化;掌握C++、Python编程,了解AI模型和推理软件的技术栈,包括推理引擎和框架如Tensor-LLM、VLLM、SGLang、PyTorch、ONNX等,并至少对其中一种有深入开…
登录后保留你的岗位线索
邮箱登录后可继续查看完整职责、任职要求和原岗位入口,并使用收藏与浏览记录沉淀适合自己的机会。
岗位职责
- 负责自研AI芯片推理生态软件设计
- 适配主流推理框架如PyTorch、VLLM等
- 开发自研推理引擎并进行软硬件协同优化
任职要求
- 掌握C++、Python编程,了解AI模型和推理软件的技术栈,包括推理引擎和框架如Tensor-LLM、VLLM、SGLang、PyTorch、ONNX等,并至少对其中一种有深入开发经验
- 熟悉常见的大模型推理优化技术,如FlashAttention、PagedAttention、MLA等,并有相关算子开发优化经验
- 熟悉Triton、OpenCL等编程语言/标准,有NV GPU以外的推理硬件上LLM推理软件调优适配经验优先
福利待遇
- 薪资范围30-60K·16薪
- 工作地点在北京朝阳区望京国际研发园
- 经验不限,本科及以上学历
工作地址
北京朝阳区望京国际研发园
登录后查看完整岗位详情
使用邮箱验证码登录后,可查看完整职责、任职要求、原岗位入口,并继续使用收藏和浏览记录。列表摘要保持公开,完整详情用于保护数据质量和降低恶意抓取。