MaaS API平台高级工程师/专家
岗位摘要
负责GLM系列模型API推理链路的架构设计与核心开发，包括流量调度、限流降级、负载均衡策略、协议适配等；设计并落地多机房容灾、主备切换、灰度发布体系，保障服务可用性；深入推理链路各环节（网络、调度、模型引擎），持续优化首响延迟、吞吐量和GPU资源利用率
岗位职责
- 负责GLM系列模型API推理链路的架构设计与核心开发，包括流量调度、限流降级、负载均衡策略、协议适配等
- 设计并落地多机房容灾、主备切换、灰度发布体系，保障服务可用性
- 深入推理链路各环节（网络、调度、模型引擎），持续优化首响延迟、吞吐量和GPU资源利用率
- 参与适配开发OpenAI/Anthropic等API协议、MCP工具、Harness框架、优先级队列等，优化开发者交互体验
- 建设推理服务的全链路可观测性体系（Trace/Metric/Log），用数据驱动容量规划和故障定位，提升问题发现与恢复效率
任职要求
- 5年以上后端开发经验，扎实的计算机基础（分布式系统、网络协议、操作系统）
- 精通至少一门后端语言（Java/Go/Rust/C++），有大规模高并发系统的实际生产经验
- 深入理解微服务架构，有API Gateway/Service Mesh/服务治理的实战经验
- 熟悉Redis、Kafka/RocketMQ、MySQL等中间件，理解其底层原理和调优方法
- 具备独立排查复杂线上问题的能力（网络抓包、性能分析、日志追踪）
- 对系统稳定性有深刻理解，有故障复盘和预案建设经验
- 加分项：有MaaS平台或大模型推理服务的开发经验、头部互联网公司核心项目经验、稳定性优化治理经验、开源项目贡献或在技术社区有影响力
工作地址
北京海淀区搜狐网络大厦11层