智能体AI浪潮推动CPU需求强势回归

AWS今年向内部工程师发出罕见指令，要求不惜一切代价节省CPU算力。这一举措背后，是智能体AI工作负载对云基础设施造成的持续冲击。过去，AI算力的讨论几乎被GPU主导，CPU因并行计算能力相对不足，被认为不适合大语言模型推理任务。然而，智能体AI系统的崛起正在改写这一逻辑。Moor Insights & Strategy副总裁、数据中心首席分析师Matt Kimball指出，2026年CPU需求出现明显峰值，智能体AI是主要驱动力之一。

智能体AI与传统AI推理的关键区别在于「工具调用」能力。大语言模型在执行任务时，需要访问互联网、读写文件、调用外部软件，这些操作通常由CPU负责处理。英特尔高级研究科学家Souvik Kundu解释称，CPU承担着解析输出、判断调用哪个工具、发起API请求、执行代码、收集结果并反馈的全套工作。AMD方面的测试同样表明，真实智能体AI流水线中八个阶段里有七个完全运行于CPU，GPU在工具调用期间往往处于空闲状态。

智能体系统的规模效应进一步放大了CPU压力。Kimball举例说，企业部署一个智能体工作负载时，最初的100个智能体可能迅速扩展为数万乃至数百万个，每个智能体还会派生子智能体并发起各自的工具调用。OpenAI此前无意中入侵Hugging Face的事件中，其模型每小时触发了多达300次操作，直观展示了智能体系统以机器速度生成并倍增工作量的能力。Kundu与佐治亚理工学院研究人员合作的论文提出，通过调度优化可将端到端延迟降低最多1.8倍，但这仍是在追赶一个不断移动的目标。

分词处理是另一个被忽视的CPU瓶颈。分词是大语言模型推理的第一步，负责将文本转换为模型可处理的整数标记。与矩阵运算不同，分词是依赖数据的顺序字符串处理，难以大规模并行化。佐治亚理工学院博士生Euijun Chung的研究发现，当智能体模型持续进行工具调用时，每次调用都需要对整个上下文序列重新分词。若上下文长度达到10万个标记，每次工具调用都会触发一次完整的重新分词，首个标记生成延迟可能急剧上升。增加CPU核心数量可将这一延迟降低1.5至7倍。

安全护栏是进一步加重CPU负担的隐性因素。对智能体行为的安全与策略检查，通常以特定规则的形式检查语法和日志文件，有时还会调用参数量低于十亿的小型模型来分析任务复杂度或意图。尽管这些任务理论上可以在GPU上执行，但由于模型体量小且对延迟敏感，实际上往往留在CPU上运行。随着智能体系统复杂度提升，安全护栏的数量和频率也将随之增加，进一步推高CPU的工作负载。

市场信号已经清晰地指向CPU供需失衡。英特尔服务器CPU已售罄至今年年底，AMD将服务器CPU出货预测翻倍，Arm与高通相继发布专为智能体AI加速设计的新CPU，英伟达也将基于Arm架构的Vera CPU列为Vera Rubin平台的优先产品。Kimball警告，CPU短缺已初现端倪，并可能像此前GPU和内存短缺一样向消费市场蔓延。英特尔已削减消费级CPU产能以优先保障服务器CPU供应，这一取舍本身就说明芯片厂商正在跟随资金流向重新配置资源。

要点

• 智能体AI流水线中大多数阶段运行于CPU而非GPU，工具调用、API请求、结果解析和安全护栏均属CPU密集型任务，推动CPU需求在2026年出现明显峰值。
• 分词处理随上下文长度增长而成倍加重CPU负担，智能体场景下百万级标记序列将使这一瓶颈持续恶化，增加CPU核心数是目前最直接的缓解手段。
• 英特尔服务器CPU售罄、AMD预测量翻倍、Arm与高通推出新品、英伟达优先布局Vera CPU，多重市场信号共同指向CPU短缺与价格上涨风险。
• AWS强制节省CPU算力的内部指令，是云基础设施在智能体AI时代面临新型资源约束的早期预警，企业在规划AI基础设施时需将CPU容量纳入核心考量。