员工/高级软件工程师 - 推理扩展方向
岗位摘要
设计、构建并维护为全球数百万用户提供Claude服务的分布式系统；开发具备弹性和灵活性的系统，能够实时响应和适应真实世界中的各类事件；开发智能请求路由、负载均衡及流量管理系统，覆盖数千个加速器和多个云服务提供商
岗位职责
- 设计、构建并维护为全球数百万用户提供Claude服务的分布式系统
- 开发具备弹性和灵活性的系统，能够实时响应和适应真实世界中的各类事件
- 开发智能请求路由、负载均衡及流量管理系统，覆盖数千个加速器和多个云服务提供商
- 最大化计算效率，确保在用户规模快速增长的情况下稳定可靠地提供服务
任职要求
- 具备丰富的分布式系统设计与开发经验，熟悉高性能、高并发场景下的系统架构
- 熟悉多云平台（如AWS、GCP、Azure）及AI加速器（GPU/TPU等）相关技术栈
- 具备扎实的系统性能优化能力，能够应对大规模推理服务中的复杂工程挑战