返回岗位列表

技术团队成员（模型服务）

查看原岗位

地点：美国薪资：薪资未公开日期：2026-01-29

岗位摘要

开发、部署和运营AI平台，通过易于使用的API端点交付Cohere的大型语言模型；与多个团队紧密合作，在低延迟、高吞吐量、高可用性的生产环境中部署优化的NLP模型；与客户对接，创建满足其特定需求的定制化部署方案

岗位职责

开发、部署和运营AI平台，通过易于使用的API端点交付Cohere的大型语言模型
与多个团队紧密合作，在低延迟、高吞吐量、高可用性的生产环境中部署优化的NLP模型
与客户对接，创建满足其特定需求的定制化部署方案

任职要求

拥有5年以上大规模生产基础设施的工程经验
具备使用Kubernetes设计大型、高可用分布式系统的经验，以及在这些集群上运行GPU工作负载的经验
拥有Kubernetes开发、生产编码和支持经验
具备GCP、Azure、AWS、OCI、多云/本地/混合部署服务的经验
拥有在复杂的基于Linux的计算环境中设计、部署、支持和故障排除的经验
具备计算/存储/网络资源及成本管理经验
拥有出色的协作和故障排除技能，以构建关键任务系统，并确保运营顺畅和团队高效合作
具备解决日常复杂技术挑战的毅力和适应能力
熟悉加速器（GPU、TPU和/或定制加速器）的计算特性，尤其是它们如何影响推理的延迟和吞吐量
对分布式系统有深刻理解或实际工作经验
拥有Golang、C++或其他为高性能可扩展服务器设计的语言的经验