大模型开放平台后端开发工程师
岗位摘要
负责大模型开放平台的整体架构设计与核心模块研发，包括API Gateway、模型路由、流量调度、多租户隔离等，确保系统高可用、高并发与可扩展；设计并实现统一的模型调用协议与接入标准，支持多模型（自研/三方）的统一接入、版本管理、灰度发布与流量切换，对外提供标准化的API/SDK
登录后保留你的岗位线索
邮箱登录后可继续查看完整职责、任职要求和原岗位入口，并使用收藏与浏览记录沉淀适合自己的机会。
岗位职责
- 负责大模型开放平台的整体架构设计与核心模块研发，包括API Gateway、模型路由、流量调度、多租户隔离等，确保系统高可用、高并发与可扩展
- 设计并实现统一的模型调用协议与接入标准，支持多模型（自研/三方）的统一接入、版本管理、灰度发布与流量切换，对外提供标准化的API/SDK
- 构建开放平台的计量计费、配额管控、限流熔断、Token用量统计、调用链追踪、异常监控告警等治理体系，支撑平台的商业化运营
- 参与Agent编排引擎的设计与开发，涵盖任务编排、上下文管理、工具/插件注册与调用、行为策略、Memory管理等模块，提升平台标准化与工程化水平
- 跟进并落地行业标准协议（Response Api、Managed Agent Api等），兼容支持主流框架/应用/SDK，构建可插拔的平台能力层，降低业务接入成本
- 针对大模型推理场景进行工程侧优化，持续关注前沿技术并推动架构升级
任职要求
- 计算机相关专业，2年以上后端开发经验，具备良好的业务抽象与系统设计能力
- 精通Golang/Java/Python至少一门语言及其主流框架，深入理解框架特性与底层实现原理
- 具有大规模分布式系统设计与开发经验，熟悉微服务架构、消息队列、缓存、服务治理等常用中间件
- 精通MySQL及至少一种NoSQL数据库（Redis/MongoDB/Elasticsearch等），具备合理的表结构设计与查询优化能力
- 熟悉RESTful API / gRPC设计规范，有平台型产品或开放API体系建设经验者优先
- 了解大模型推理服务的基本原理（Tokenization、流式输出、上下文窗口管理等），有LLM应用开发或Agent工程经验者优先
- 具有良好的沟通协作能力、自驱力和成长型思维，能在快速迭代的环境中主动推动技术方案落地
登录后查看完整岗位详情
使用邮箱验证码登录后，可查看完整职责、任职要求、原岗位入口，并继续使用收藏和浏览记录。列表摘要保持公开，完整详情用于保护数据质量和降低恶意抓取。