大模型平台推理部署架构师
岗位摘要
负责大模型平台推理部署的架构设计，包括模型部署、推理优化、模型服务高可用、可观测性等；与业务团队进行沟通和合作，更快落地业务大模型推理部署需求，并持续优化推理性能；跟踪业内最新的大模型推理部署技术，持续完善推理部署功能和使用体验
登录后保留你的岗位线索
邮箱登录后可继续查看完整职责、任职要求和原岗位入口，并使用收藏与浏览记录沉淀适合自己的机会。
岗位职责
- 负责大模型平台推理部署的架构设计，包括模型部署、推理优化、模型服务高可用、可观测性等
- 与业务团队进行沟通和合作，更快落地业务大模型推理部署需求，并持续优化推理性能
- 跟踪业内最新的大模型推理部署技术，持续完善推理部署功能和使用体验
任职要求
- 计算机、人工智能等相关专业本科及以上，5年及以上工作经验
- 熟练掌握Linux环境下的Go/Python等语言开发和最佳实践，有解决复杂问题的能力
- 熟悉Kubernetes架构和生态，熟悉Docker/Operator等云原生技术，有云原生系统开发经验
- 有服务端开发经验，熟悉常用组件MySQL、Redis、Nacos、Prometheus等
- [加分项]有万级QPS服务端架构设计、分布式架构设计、服务稳定性监控设计经验
- [加分项]熟悉常用的推理框架TensorFlow、Triton、TGI、vLLM、SGLang等
加分项
- ]有万级QPS服务端架构设计、分布式架构设计、服务稳定性监控设计经验
- ]熟悉常用的推理框架TensorFlow、Triton、TGI、vLLM、SGLang等
登录后查看完整岗位详情
使用邮箱验证码登录后，可查看完整职责、任职要求、原岗位入口，并继续使用收藏和浏览记录。列表摘要保持公开，完整详情用于保护数据质量和降低恶意抓取。