大模型工程师 - 强化学习框架与推理
岗位摘要
建设和优化Forge RL框架，支撑大规模RLHF、RLVR、Agentic RL等训练任务；优化RL Rollout系统，支持多轮交互、环境调用、工具调用及外部状态机感知等复杂场景
岗位职责
- 建设和优化Forge RL框架，支撑大规模RLHF、RLVR、Agentic RL等训练任务
- 优化RL Rollout系统，支持多轮交互、环境调用、工具调用及外部状态机感知等复杂场景
- 优化Rollout过程中的调度策略、长尾延迟、KV Cache管理和整体吞吐表现
- 建设高性能推理serving能力，支撑RL场景下更高效、更稳定、更灵活的轨迹生成
- 与算法团队共同进行RL算法与推理系统的协同设计，提升模型能力和实验效率
任职要求
- 编程能力扎实，具备清晰的系统设计思路和良好的工程品味
- 对大模型推理系统、RL工程、分布式系统或GPU性能优化中的某一方向有深入理解
- 能够独立发现RL训练或Rollout链路中的系统瓶颈，提出方案并推动落地
- 关注RL、推理系统、Agentic workflow等方向，愿意深入理解算法需求背后的系统问题
- （加分）熟悉SGLang、vLLM、TensorRT-LLM、PyTorch、Megatron-LM等主流推理/训练框架，并有深入使用或贡献经验
- （加分）熟悉KV Cache管理、continuous batching、PD分离、MTP、低精度量化、分布式serving、通信优化等推理加速技术
- （加分）有大规模RLHF/RLVR/Agentic RL工程经验，或参与过Rollout系统、RL训练框架建设
- （加分）熟悉主流大模型结构，能够理解模型设计中的效率与能力权衡
- （加分）有大规模推理系统、在线serving、GPU性能优化或高性能系统工程经验
加分项
- 熟悉 SGLang、vLLM、TensorRT-LLM、PyTorch、Megatron-LM 等主流推理/训练框架，并有深入使用或贡献经验
- 熟悉 KV Cache 管理、continuous batching、PD 分离、MTP、低精度量化、分布式 serving、通信优化等推理加速技术
- 有大规模 RLHF / RLVR / Agentic RL 工程经验，或参与过 Rollout 系统、RL 训练框架建设
- 熟悉主流大模型结构，能够理解模型设计中的效率 / 能力 trade-off
- 有大规模推理系统、在线 serving、GPU 性能优化或高性能系统工程经验