软件工程师,代理运行时
岗位摘要
端到端负责有影响力的运行时问题,从架构设计到生产发布和持续可靠性;构建和发展核心服务,包括会话生命周期、流式响应(如gRPC/WebSockets)、结构化工具执行、内存/状态和政策/防护栏
登录后保留你的岗位线索
邮箱登录后可继续查看完整职责、任职要求和原岗位入口,并使用收藏与浏览记录沉淀适合自己的机会。
岗位职责
- 端到端负责有影响力的运行时问题,从架构设计到生产发布和持续可靠性
- 构建和发展核心服务,包括会话生命周期、流式响应(如gRPC/WebSockets)、结构化工具执行、内存/状态和政策/防护栏
- 为性能、正确性和成本设计:降低p50/p95延迟,改善尾部行为,优化令牌/工具预算
- 与领先的LLM提供商(如OpenAI、Anthropic、Google Gemini)和内部评估框架集成,以提高质量和可预测性
- 通过故障隔离、重试、超时、断路、背压和优雅降级来加固平台
- 实施深度可观察性(跟踪、指标、日志),并为高可用性和值班卓越创建手册/SLOs
- 与产品、质量和应用团队紧密合作,优先考虑最有影响力的路线图投资
任职要求
- 3年以上构建生产分布式系统或云原生应用的软件工程经验
- 计算机科学或相关领域的学士学位,或同等的实际经验
- 至少精通以下一种编程语言:Python、Go、Java或C++,注重可靠性、性能和测试
- 具有产品思维:优先考虑客户影响、清晰的SLAs/SLOs和务实的迭代
登录后查看完整岗位详情
使用邮箱验证码登录后,可查看完整职责、任职要求、原岗位入口,并继续使用收藏和浏览记录。列表摘要保持公开,完整详情用于保护数据质量和降低恶意抓取。