大模型后训练系统工程师（算子）
岗位摘要
负责大模型训练/推理核心算子的开发与性能优化，持续提升算力利用率；负责低精度训练/推理相关算子优化，包括FP8/BF16/INT8等计算路径；负责算子融合、内存访问、通信与计算overlap等底层性能优化
岗位职责
- 负责大模型训练/推理核心算子的开发与性能优化，持续提升算力利用率
- 负责低精度训练/推理相关算子优化，包括FP8/BF16/INT8等计算路径
- 负责算子融合、内存访问、通信与计算overlap等底层性能优化
- 参与不同硬件平台适配及性能调优，提升训练/推理在不同芯片上的效率
- 与训练、推理及算法团队开展co-design，针对模型结构及计算模式共同优化系统性能
- 建设算子性能分析、精度验证及回归体系，提升问题定位和性能追踪效率
任职要求
- 熟悉CUDA、Triton、C++中至少一种高性能计算开发方式
- 熟悉GPU架构、显存层级、并行计算、Kernel调优等基础原理
- 熟悉大模型常见算子及性能瓶颈，包括Attention、GEMM、MoE、通信算子等
- 熟悉低精度计算、算子融合、通信优化等相关技术，有实际性能优化经验者优先
- 熟悉PyTorch算子扩展、编译优化或相关高性能计算框架者优先
- 熟悉性能分析及问题排查工具，具备独立定位性能瓶颈的能力
- 熟悉AI Coding，有使用或建设代码助手、自动化研发工具、Coding Agent的经验
工作地址
北京海淀区大恒科技大厦12F