模型 / 官方
OpenAI 如何将 ChatGPT 存储读取速度提升 12 倍
随着 ChatGPT 用户规模突破十亿，OpenAI 面临前所未有的在线存储挑战。为此，工程团队对内部存储系统 Habitat 进行了大规模升级，重点围绕可靠的多租户隔离、全局缓存机制以及与 Azure Cosmos DB 的深度集成展开。最终，系统读取延迟降低至原来的十二分之一，整体读取速度提升 12 倍。这一系列改造不仅保障了海量并发请求下的稳定性，也为未来更大规模的用户增长奠定了基础。本文是 OpenAI 存储扩展系列的第二部分，深入介绍了 Habitat 在架构层面的关键决策与工程实践，展示了顶级 AI 产品在基础设施侧所面临的真实复杂度。
ChatGPT 的用户规模在过去一年内经历了爆炸式增长，在线存储系统随之承受巨大压力。OpenAI 内部将其核心存储层称为 Habitat，该系统负责管理用户会话、偏好设置及上下文数据等关键信息。随着并发请求量持续攀升，原有架构在延迟和吞吐量方面均出现明显瓶颈，亟需系统性重构。
多租户可靠性是此次升级的核心议题之一。在超大规模服务中，不同租户之间的资源争抢往往是性能劣化的主要根源。OpenAI 工程团队通过引入更细粒度的隔离策略，确保单一租户的流量峰值不会对整体系统造成级联影响，从而大幅提升了服务的整体稳定性与可预测性。
全局缓存机制的引入是实现 12 倍读取提速的关键杠杆。通过在地理上分布式部署缓存节点，Habitat 能够将热点数据就近提供给用户，显著减少跨区域数据库查询的频次。这一设计在降低延迟的同时，也有效减轻了后端数据库的读取压力，形成良性的负载分担效果。
Azure Cosmos DB 在此次架构升级中扮演了重要角色。其原生支持的全球分发能力与多模型数据接口，与 Habitat 的扩展需求高度契合。OpenAI 团队针对 Cosmos DB 的分区策略和一致性级别进行了精细调优，在保证数据一致性的前提下，最大化地释放了数据库的读取性能潜力。
此次工程实践揭示了 AI 产品在基础设施层面的深层复杂度。相较于模型训练，在线推理服务的存储与检索系统同样需要持续的工程投入。OpenAI 表示，Habitat 的演进将持续推进，以支撑未来更多元化的产品形态，包括涉及 RAG（检索增强生成）场景下对实时数据访问的更高要求。
这一系列基础设施升级的背后，是 OpenAI 对工程可靠性的长期承诺。12 倍的读取速度提升不仅是一个技术指标，更直接转化为数亿用户每天使用 ChatGPT 时更流畅的交互体验。随着 AI 应用持续渗透日常生活，底层存储系统的扩展能力将成为决定产品竞争力的重要维度。
要点
- OpenAI 通过多租户隔离、全局缓存和 Azure Cosmos DB 集成，将 ChatGPT 存储系统读取速度提升了 12 倍
- 细粒度多租户隔离策略有效防止了单一租户流量峰值对整体系统的级联影响
- 地理分布式缓存节点将热点数据就近服务于用户，大幅减少跨区域数据库查询频次
- RAG 等检索增强场景对实时存储访问提出更高要求，基础设施能力将持续成为 AI 产品竞争力的关键
原始标题：Rapidly scaling online storage to serve over 1 billion ChatGPT users (Part II)
本文由 DataHub 基于公开来源整理，用于信息发现与摘要阅读；具体事实、数据和后续更新以原始来源为准。