技术支持工程师（推理）— 印度周末班
岗位摘要
直接与客户互动，解决涉及尖端GPU集群、推理和微调服务的复杂技术挑战，确保每次都能提供快速有效的解决方案；作为面向客户的SRE，确保客户在Kubernetes上运行的推理端点保持健康、稳定和高性能
岗位职责
- 直接与客户互动，解决涉及尖端GPU集群、推理和微调服务的复杂技术挑战，确保每次都能提供快速有效的解决方案
- 作为面向客户的SRE，确保客户在Kubernetes上运行的推理端点保持健康、稳定和高性能
- 成为所有生成式AI解决方案的产品专家，在问题升级至工程和产品团队之前，作为最后一道技术防线
- 协助硬件和平台迁移，验证系统健康状况和流量路由；监控仪表盘以发现异常，并通过数据支持的分析进行升级
- 在事故和降级期间管理与客户的沟通；将深层技术发现（延迟回退、提供商问题、网络可达性下降）转化为清晰、有证据支持的更新，同时不暴露平台内部信息
- 为模型部署、容量再平衡和集群配置贡献基础设施变更；通过拉取请求（基础设施即代码）执行基础设施变更，例如端点配置、模型上线/下线以及容量扩缩
- 使用日志和复现步骤向工程团队标记引擎级错误
- 与工程、研究和产品团队无缝协作，解决客户问题；与内外部高级领导协作，确保最高水平的客户满意度
- 通过识别支持案例中的模式，将客户洞察转化为行动，并与工程和上市团队合作推动Together的路线图（例如未来支持的模型）
- 维护系统配置、流程、故障排除指南和常见问题解答的详细文档，以促进与团队和客户的知识共享
- 根据业务需求，灵活提供节假日、夜间和周末的支持覆盖，以确保为客户提供一致可靠的服务
任职要求
- 6年以上面向客户的技术岗位、SRE、DevOps或基础设施工程经验，其中至少1年从事AI服务支持工作
- 具备扎实的技术背景，了解AI、ML、GPU技术及其在高性能计算（HPC）环境中的集成
- 具备基础设施服务（如Kubernetes、SLURM）、基础设施即代码解决方案（如Ansible）、高性能网络架构以及基于NFS的存储的高级生产级经验