返回岗位列表

大模型接入平台建设工程师

查看原岗位

地点：北京薪资：薪资未公开日期：未知

岗位摘要

构建和维护企业级大模型接入平台，支持内部业务系统快速接入；集成主流外部大模型服务（OpenAI、Claude、deepseek等）和自部署开源模型服务，提供统一的接入标准；建立完善的模型版本管理、配置管理和发布流程

岗位职责

构建和维护企业级大模型接入平台，支持内部业务系统快速接入
集成主流外部大模型服务（OpenAI、Claude、deepseek等）和自部署开源模型服务，提供统一的接入标准
建立完善的模型版本管理、配置管理和发布流程
基于统一接口标准，构建高可用、高并发的大模型中台服务
设计实现用户权限分层管理、智能流量调度和服务降级机制
建立完善的监控告警体系，确保服务稳定性和可观测性
跟踪业界Agent技术发展趋势，持续优化平台能力
设计面向未来的API架构和能力体系，支持多模态Agent应用的落地
构建Agent工具链和开发框架，提升开发效率
建立大模型使用数据的采集、分析和可视化体系
基于用户行为和性能数据，持续优化平台架构和服务质量
制定数据驱动的产品迭代策略，提升用户体验

任职要求

大模型平台服务入口，技术深度和挑战足够
涵盖业务类型广，技术链条深度足够，技术范围广
跟踪大模型领域前沿知识，获得实际的业务实施经验
团队成员经验丰富，技术卓越，成长环境好