数据科学家，推理容量优化
岗位摘要
构建统计和机器学习模型，以分析和提升图形处理器利用率、延迟、吞吐量及整体集群效率；开发跨产品、区域和模型系列的推理需求预测模型；分析生产工作负载，识别延迟瓶颈和容量约束，并突出优化机会
岗位职责
- 构建统计和机器学习模型，以分析和提升图形处理器利用率、延迟、吞吐量及整体集群效率
- 开发跨产品、区域和模型系列的推理需求预测模型
- 分析生产工作负载，识别延迟瓶颈和容量约束，并突出优化机会
- 与容量系统工程团队合作，为基础设施规划和长期图形处理器投资策略提供依据
- 设计实验和模拟，以评估调度策略、服务策略和基础设施权衡
- 构建仪表盘和运营指标，使领导层能够基于数据做出容量决策
- 与产品、研究、财务和基础设施团队合作，使计算规划与业务增长和模型路线图保持一致
- 向工程团队和高管层清晰传达技术发现
任职要求
- 统计学、计算机科学、运筹学、应用数学、经济学或相关定量学科硕士或博士，或具备同等行业经验
- 在基础设施数据科学领域拥有5年以上工作经验
- 精通Python和SQL
- 具有构建预测、优化或预测性模型的经验
- 深入理解实验、统计推断和因果分析
- 具有向高管利益相关者传达分析洞察的经验
- 优先考虑具备人工智能基础设施经验
- 优先考虑具备数据中心设计与建设经验
- 优先考虑具备排队论知识
- 优先考虑具备运筹学知识
- 优先考虑具备用于资源分配的强化学习经验