训推框架工程师
岗位摘要
维护并持续优化Post-Train训推框架，降低使用门槛，提升易用性；深入训练与推理全链路优化，覆盖显存优化、通信加速、调度策略、吞吐与延迟等核心指标；构建高效稳定的数据处理与供给流水线，支持多源异构数据的清洗、混合与动态调度
岗位职责
- 维护并持续优化Post-Train训推框架，降低使用门槛，提升易用性
- 深入训练与推理全链路优化，覆盖显存优化、通信加速、调度策略、吞吐与延迟等核心指标
- 构建高效稳定的数据处理与供给流水线，支持多源异构数据的清洗、混合与动态调度
- 提升资源利用率，缩短实验周期，降低验证成本
任职要求
- 熟悉Post-Train训练流程，包括SFT、RLVR、RLHF、AgentRL等
- 对训推基建有深入了解，具备大规模改造经验
- 有大模型系统开发和优化经验，具备从零搭建训推系统的实际案例
- 有工程项目维护经验，对质量有执念，具备系统可观测性与问题定位能力
- 理解分布式训推底层逻辑，包括tensor parallelism、pipeline scheduling、NCCL通信、GPU显存布局等
- 高强度使用AI工具辅助开发，同时清楚AI的能力边界
工作地址
北京海淀区大恒科技大厦00