大模型协同设计工程师
岗位摘要
协同设计与优化：深入理解大模型算法（架构、训练/推理技术），评估其工程可行性、性能瓶颈与成本；主导设计下一代训练/推理框架或核心组件，确保原生支持高效算法实现（如高效Attention、通信优化）
岗位职责
- 协同设计与优化：深入理解大模型算法（架构、训练/推理技术），评估其工程可行性、性能瓶颈与成本
- 主导设计下一代训练/推理框架或核心组件，确保原生支持高效算法实现（如高效Attention、通信优化）
- 系统性解决训练/推理工作负载的性能瓶颈（计算、通信、存储）
- 设计并实现高性能核心（如定制Kernel），优化通信与数据流水线
- 设计构建大规模分布式训练系统（DeepSpeed/Megatron-LM/FSDP）
- 设计构建高并发、低延迟的大模型推理服务平台
- 跟踪领域前沿，探索验证新技术（新硬件、非Transformer架构等）
- 高效沟通，跨团队（算法、工程、平台）协作推动方案落地
任职要求
- 本科及以上学历，深度理解大模型算法
- 有大规模分布式训练系统设计构建经验，熟悉DeepSpeed、Megatron-LM、FSDP等框架
- 有高性能计算、通信优化与数据流水线优化经验
- 有高并发、低延迟大模型推理服务平台设计构建经验
- 具备跨团队沟通协作能力，能够推动方案落地
- 加分项：参与DeepSpeed、Megatron-LM、vLLM、SGLang等核心框架开发
- 加分项：具备GPU Kernel优化（CUDA/Triton）经验
- 加分项：具备千亿参数级模型训练或部署经验
- 加分项：熟悉云平台大规模AI负载管理
加分项
- 参与 DeepSpeed/Megatron
- LM/vLLM/SGLang 等核心框架开发
- GPU Kernel优化 (CUDA/Triton) 经验
- 熟悉云平台大规模AI负载管理
- 王女士 3日内活跃
工作地址
北京海淀区蓟门壹号8层