推理基础设施工程经理
岗位摘要
负责推理集群协调的技术路线，包括流量去向、容量分布、缓存放置、系统对需求变化的响应速度，以及保持控制平面与推理引擎同步的协议；与产品、推理引擎、性能和容量团队合作，识别吞吐量、延迟、利用率和成本方面的优化机会，并将其转化为可量化结果的已交付改进
岗位职责
- 负责推理集群协调的技术路线，包括流量去向、容量分布、缓存放置、系统对需求变化的响应速度，以及保持控制平面与推理引擎同步的协议
- 与产品、推理引擎、性能和容量团队合作，识别吞吐量、延迟、利用率和成本方面的优化机会，并将其转化为可量化结果的已交付改进
- 在团队内建立量化建模习惯：只有可衡量的成果才算胜利，并在发布前明确预期效果
- 制定控制平面在异构硬件、多个云服务商及所有服务入口上演进的技术战略
- 负责团队运维支柱，包括值班轮换、事件响应、复盘审查和部署安全，使团队能够积极交付而不使系统变得脆弱
- 在 API 层、推理引擎、容量规划和云部署团队之间的衔接处建立清晰边界与协作机制
- 发展和保留现有优秀团队，并按照高技术水平招聘人才
- 在优先级不断变化的技术路线中指导工程师成长
- 随着范围扩大塑造团队结构：决定各问题领域之间的边界，并培养能够各自负责的负责人
- 在关键时刻补位：小团队处于关键路径上，工程经理有时需要解除受阻项目的障碍或综合设计讨论
任职要求
- 具备工程管理经验，曾领导大规模、处于关键路径的生产基础设施团队
- 拥有深厚系统背景，例如负载均衡、调度、集群编排、自动扩缩容、缓存一致的分布式状态、高性能网络或类似领域，并有足够深度就大规模集群协调做出架构决策，评估深入内核与框架层面的候选人