大模型推理运维工程师
岗位摘要
负责推理集群的部署、调整、监控、告警等运维业务；完善推理服务的工具链建设；深入挖掘和解决推理系统中的各类技术问题；具备扎实的专业技能与编码能力，对推理服务有较好的技术敏感度；具有计算机体系结构相关经验，熟悉OS、RDMA、CUDA、推理框架等技术
岗位职责
- 负责推理集群的部署、调整、监控、告警等运维业务
- 完善推理服务的工具链建设
- 深入挖掘和解决推理系统中的各类技术问题
任职要求
- 具备扎实的专业技能与编码能力，对推理服务有较好的技术敏感度
- 具有计算机体系结构相关经验，熟悉OS、RDMA、CUDA、推理框架等技术
- 动手能力和自驱力非常强，能够在LLM运维领域有所创新
- 计算机相关专业背景，应届生或经验较少者均可，公司可提供培养
福利待遇
- 薪资范围35-65K·14薪
- 应届生友好，提供系统培养机制
工作地址
杭州拱墅区汇金国际14A