AI资讯 / 产业

产业 / 媒体

每次响应背后堆积的存储成本

MIT Technology Review

当企业高管谈及AI成本时,目光往往聚焦于GPU算力与电力消耗,却忽视了另一个正在快速膨胀的支出项:存储。每一次AI推理请求都会在后端留下大量数据——日志、缓存、中间渲染文件、安全记录等,这些数据不会随任务结束而消失,而是持续累积。WD的内部测量显示,一段返回给用户的8秒720p视频文件仅约4MB,但其后端关联数据超过500MB,是输出文件的130倍。麦肯锡预测,AI推理需求将以35%的年复合增长率增长至2030年,届时将占数据中心总需求的40%以上。一项覆盖763名IT与业务决策者的IDC调查显示,近95%的受访者表示过去12个月内因生成式AI导致数据量增加,其中约61%的增幅超过25%。这一趋势正在重塑企业AI基础设施的预算逻辑,存储成本的战略地位亟待重新评估。

在AI基础设施的讨论中,训练阶段长期占据核心位置。训练有明确的起止节点,算力消耗可以预算、可以核销。但推理不同——它持续运行,每一次模型响应都会在系统后端留下痕迹。这种差异在基础设施规划层面意义重大:训练是一个可以结项的项目,而推理产生的数据积累却没有终点。随着推理规模扩大,数据足迹也随之线性乃至超线性增长,形成一条持续攀升的隐性成本曲线。

WD的实测数据揭示了这一问题的具体量级。一段8秒的AI生成视频,用户收到的720p文件约为3.97MB,但后端实际存储的关联数据超过500MB,涵盖日志、缓存上下文、中间渲染、备份及安全记录,是输出文件体积的约130倍。若将分辨率提升至企业级标准,单条视频的后端数据足迹可轻松达到数百GB。对于大规模部署AI视频生成的企业而言,这一乘数效应将迅速将存储成本推至不可忽视的量级。

麦肯锡的预测进一步强化了这一趋势的紧迫性:AI推理需求将以35%的年复合增长率持续扩张至2030年,届时将占全球数据中心总需求的40%以上,远超训练需求22%的增速。IDC调查同样印证了这一判断——近95%的受访决策者表示生成式AI已导致其数据量在过去一年内显著增加。一位超大规模云服务商的高级产品经理在报告中指出,充足的存储本质上是保持GPU高效运转的优化手段,GPU因等待数据而空转的成本极高,这一瓶颈往往在问题暴露后才被察觉。

存储成本的另一个复杂之处在于其与计算成本的不对称性。计算需求随训练周期、产品发布和硬件更新而起伏,但已积累的数据体量不会随计算需求回落而缩减。模型日志、合成输出、推理结果持续堆叠,且越来越多的历史数据正被纳入检索增强生成(RAG)等新型工作流,从冷存档转变为活跃的推理输入。IDC调查显示,96%的受访者预计未来需要更快的归档检索能力以支持推理或RAG场景,这对存储架构的性能与容量提出了双重要求。

对CFO和CIO而言,这意味着当前对「AI基础设施支出」的界定可能过于狭窄。以零售商为AI商品视频生成、保险公司通过RAG流水线处理理赔文件为例,计算成本是可预测的单次费率,而存储成本则随每一次生成、每一次处理持续复利累积。一个将存储视为「计算成本附带零头」的预算方案,往往会在12至18个月后发现这个零头已演变为项目总成本的重要组成部分——恰好是管理层决定是否扩大投入的关键节点。

应对这一挑战需要从架构层面重新设计存储策略。企业当前的存储规划往往偏重高性能热层,而AI数据在体量上大量沉淀于温层、冷层和归档层。真正可持续的AI存储架构应覆盖数据全生命周期,在性能、容量、功耗、可靠性与总拥有成本之间取得平衡。企业需要回答三个核心问题:AI生成内容的数据保留策略由谁制定、如何制定?存储采购是否匹配数据的实际生命周期而非仅服务于训练阶段?若AI使用量明年翻倍,存储成本是否也会同步翻倍甚至更高?大多数组织尚无法自信地回答这三个问题,而这正是下一个预算周期前最值得弥合的认知缺口。

要点

  • AI推理产生的后端数据量远超用户可见输出:一段8秒视频的后端关联数据是输出文件的约130倍,存储成本被系统性低估。
  • 麦肯锡预测推理需求将以35%年复合增长率扩张至2030年,届时占数据中心总需求逾40%,增速显著高于训练需求。
  • 历史归档数据正因RAG等技术重新成为活跃推理输入,存储架构需同时满足大容量与动态检索的双重需求。
  • 存储成本具有复利特性,不随计算需求回落而缩减,若预算规划忽视这一点,12至18个月内可能面临显著的成本超支。
  • 企业应围绕数据保留策略、采购逻辑与扩容弹性三个维度重新审视AI基础设施预算,在下一个预算周期前主动填补认知缺口。
查看原始来源

原始标题:AI’s hidden storage bill: What inference leaves behind

本文由 DataHub 基于公开来源整理,用于信息发现与摘要阅读;具体事实、数据和后续更新以原始来源为准。