AI Infra研发工程师-模型服务化方向
岗位摘要
支持MiniMax模型在全球多机房的大规模部署与优化；与模型框架团队合作，优化模型推理中的额外开销，构建高性能服务；参与端到端模型推理服务的研发，在多流量入口、多云多机房等复杂场景下构建稳定高效的服务架构与部署模式，最优化模型服务性能
岗位职责
- 支持MiniMax模型在全球多机房的大规模部署与优化
- 与模型框架团队合作，优化模型推理中的额外开销，构建高性能服务
- 参与端到端模型推理服务的研发，在多流量入口、多云多机房等复杂场景下构建稳定高效的服务架构与部署模式，最优化模型服务性能
- 构建治理能力，参与可观测、压测、容灾、调试、降级、灰度等能力建设，并输出标准文档，以可交付为标准进行持续迭代
任职要求
- 计算机及相关专业，本科及以上学历
- 具备3年以上系统工程或高性能服务工作经验
- 理解操作系统基本原理
- 能熟练使用一种编程语言，包括但不限于Golang、Python、C++、C
- 理解常规的架构设计思想，包括但不限于服务化、异步、高可用、可扩展等
- 具备良好的可靠性意识，包括但不限于监控、容灾等
- 具备良好的团队沟通和协作能力，并具有责任心
- 理解常用推理框架如SGLang、vLLM等者优先