返回岗位列表

推理基础设施技术主管

查看原岗位

地点：美国薪资：薪资未公开日期：2026-07-20

岗位摘要

领导高性能、可扩展和可靠的机器学习系统的设计；制定技术方向，塑造下一代AI平台；负责开发和部署AI平台，通过易用的API端点交付Cohere的大型语言模型；提供跨多个团队的技术领导力，推动架构和策略

岗位职责

领导高性能、可扩展和可靠的机器学习系统的设计
制定技术方向，塑造下一代AI平台
负责开发和部署AI平台，通过易用的API端点交付Cohere的大型语言模型
提供跨多个团队的技术领导力，推动架构和策略
将优化的NLP模型部署到低延迟、高吞吐量和高可用性环境中
作为客户的关键联系人，领导定制化部署设计以满足其特定需求
指导工程师，提升团队的技术水平

任职要求

8年以上大规模生产基础设施的工程经验，具有技术领导力的记录
有领导大型高可用分布式系统架构和设计的经验，包括Kubernetes和GPU工作负载
对Kubernetes开发和生产的编码及支持有深厚专业知识，包括制定团队范围的标准和最佳实践
在GCP、Azure、AWS、OCI以及多云本地/混合服务环境中有广泛经验，能够指导战略基础设施决策
有领导大规模复杂Linux计算环境的设计、部署、支持和故障排除的经验
在组织层面拥有计算/存储/网络资源和成本管理的经验，包括优化策略
出色的协作和沟通能力，有指导工程师和领导跨职能团队构建关键系统的经验
具备解决和指导他人应对日常演变的复杂技术挑战的韧性和适应能力
对加速器（GPU、TPU和/或定制加速器）的计算特性有深入了解，并能利用它们推动延迟和吞吐量的规模化改进
对分布式系统有深入了解，有在工程团队中建立模式和最佳实践的经验
精通Golang、C++或其他用于高性能可扩展服务器的语言，能够制定编码标准并进行高级技术评审

福利待遇

每周75美元/75英镑或等值当地货币的午餐补贴
全面的健康和牙科福利，包括独立的心理健康预算
RRSP匹配、401K、养老金计划
100%育儿假补薪，最长6个月，适用于任何一方父母
年度丰富福利：艺术与文化、健身/健康、优质时间以及工作空间改善积分
教育和学习津贴，用于参加会议