技术项目经理,模型部署与容量
岗位摘要
负责Chat容量预测、分配、余量规划和受限容量运营的跨职能项目;建立持久的接入、优先级排序和决策机制,将产品需求和模型要求与可用服务容量连接起来;与产品、研究、推理、机队和容量团队合作,制定场景、揭示权衡并推动及时的分配决策
岗位职责
- 负责Chat容量预测、分配、余量规划和受限容量运营的跨职能项目
- 建立持久的接入、优先级排序和决策机制,将产品需求和模型要求与可用服务容量连接起来
- 与产品、研究、推理、机队和容量团队合作,制定场景、揭示权衡并推动及时的分配决策
- 领导模型部署就绪与发布规划,包括服务容量分配、上线排序、验证和运营交接
- 为模型部署建立明确的就绪门禁、风险评审、回滚标准和升级路径
- 通过部署和上线后学习推动发布协调,将反复出现的缺口和手工作业转化为可扩展的工具和运营实践
- 定义并落地预测准确性、容量利用率和余量、部署速度、可靠性、延迟、质量和用户影响等指标
- 创建简洁、可用于决策的沟通材料,使技术及产品负责人清楚了解依赖、风险、容量约束和发布选择
任职要求
- 曾领导基础设施、分布式系统、容量规划、模型服务或大规模部署环境中的复杂技术项目
- 能够可信地分析需求、供给、余量、可靠性、延迟和质量之间的权衡,并将其转化为可执行计划
- 构建过运营机制或工具,将碎片化、手动的工作流替换为可扩展系统和明确的责任归属
- 在优先级变化、需要明确权衡的高模糊性和受限环境中高效工作
- 不依赖直接职权,在研究、工程、产品、财务或容量规划以及运营之间建立共识
- 使用指标指导决策、识别瓶颈,并展示吞吐量、可预测性或可靠性方面的可衡量改进
- 沟通精准,能在技术细节、运营执行和高层决策之间自如切换
- 在模糊且快速扩展的环境中表现出色,并能够带来结构
福利待遇
- 混合办公模式,每周需到办公室3天
- 为新员工提供搬迁援助