AI基础设施工程师

查看原岗位

地点：美国薪资：$180,000-$440,000 日期：2026-01-29

岗位摘要

设计和实施用于模型服务的可扩展分布式基础设施，例如负载均衡、自动扩缩容、批处理调度和全局KV缓存系统；通过主动监控、容错设计和严格测试，确保推理服务的可靠性，目标为100%正常运行时间、0%错误率和良好的尾部性能

拥有大规模、高并发生产服务的经验
拥有推理服务的测试、基准测试和可靠性方面的经验
拥有设计和实施CI/CD基础设施的经验
熟悉技术栈：Kubernetes、Buildkite/ArgoCD、Prometheus/Grafana/PagerDuty、Pulumi/Terraform、SGLang、自定义调试和跟踪工具
具备强大的沟通能力，能够简洁准确地与团队成员分享知识
工作积极主动，注重工程卓越，具备强大的工作伦理和优先级排序能力
该职位位于湾区（旧金山和帕洛阿尔托），候选人需位于湾区附近或愿意搬迁