大模型推理性能优化工程师

查看原岗位

地点：北京薪资：薪资未公开日期：2026-07-20

岗位摘要

负责百度文心大模型的推理性能优化；参与飞桨深度学习平台（PaddlePaddle）推理框架的设计、开发和业务支持；负责深度学习框架的性能优化工作，包括但不限于功能模块在CPU/GPU上的深度优化工作

热爱编程，精通C++/Python，精通CUDA编程
具有独立开发能力，精通计算机体系结构，有汇编级别开发经验，对AI算法和主流框架有丰富的应用或开发经验
了解FlashAttention、PagedAttention、MoE、Chunked Prefill等大模型核心技术
了解常见的大模型量化算法（如AWQ、GPTQ、SmoothQuant等）及量化算子的实现
了解大模型通信算子（如Allreduce等）及计算通信overlap实现
有分离式部署（PD分离）开发经验
目标驱动，并有探索精神
有极强的学习能力和知识迁移能力
具有以下条件加分：精通PaddlePaddle、Pytorch、TensorFlow等主流开源框架，做过源码级优化移植等工作，有vLLM、TGI、SGLang、TensorRT-LLM等大模型推理框架的使用或优化经验