软件工程师，GPT 基础设施
岗位摘要
设计、构建并运维用于长时间运行的工作负载认证与优化活动的 API 和控制平面服务，包括调度、重试、检查点、资源预算与可观测性；构建安全的合作方侧执行与评估软件，能够在加速器硬件上编译、运行、验证、分析和基准测试候选产物
岗位职责
- 设计、构建并运维用于长时间运行的工作负载认证与优化活动的 API 和控制平面服务，包括调度、重试、检查点、资源预算与可观测性
- 构建安全的合作方侧执行与评估软件，能够在加速器硬件上编译、运行、验证、分析和基准测试候选产物
- 将模型工作负载、硬件配置、编译器工具链、运行时、服务引擎和分布式执行后端集成到可重复的平台中
- 开发正确性与性能评估系统，涵盖输出保真度、延迟、吞吐量、内存占用、加速器利用率、通信效率、扩展行为和成本效率
- 自动化内核、运行时配置、并行化策略和服务栈变更的生成、评估与改进
- 诊断跨模型代码、内核、编译器、运行时、内存系统、网络、集合通信和硬件的性能与正确性问题
- 为内核、二进制文件、配置、评估结果和部署报告构建产物管理、来源追踪、回归测试和认证工作流
- 将实验性研究流程转化为可靠的产品界面，具备清晰接口、可操作的故障模式与良好的开发者体验
- 与研究、推理工程、运行时与编译器、基础设施、安全、产品及战略合作团队协作，接入并优化新的计算平台
- 在涉及 OpenAI 系统与合作方环境的模糊项目中推动技术架构与执行
任职要求
- 具有构建分布式系统、基础设施平台、生产服务、开发者平台或编排系统的扎实软件工程经验
- 精通一门或多门系统导向语言，如 Python、C++、Go 或 Rust
- 具有设计和运维 API、作业编排系统、持久工作流或大规模后端服务的经验
- 对 Linux、网络、存储、容器、分布式执行和现代基础设施架构有深入理解
- 能够推理模型执行并诊断跨软件与硬件边界的问题
- 具有使用性能分析、追踪、基准测试和度量来指导工程决策的经验
- 具有强烈的责任感，并能在模糊的跨职能项目中推动执行