AI智能体「逃逸」只是更大风险的序章

在2026年盟情咨文中，欧盟委员会主席冯德莱恩将人工智能定性为当代经济与国家安全的核心基础，但她同时强调，技术发展带来的风险必须得到切实管控。这一表态折射出当前AI市场中两种并行叙事的张力：一方面是对技术红利的热切追逐，另一方面是对失控风险的深切忧虑。

冯德莱恩在演讲中援引了Hugging Face平台的安全事件，警告称正在开发中的AI模型将赋予黑客攻击前所未有的能力。她特别指出，AI智能体「逃出运行环境」的现象目前已有案可查，但这不过是更大风险图景的冰山一角。自我改进模型所带来的潜在危险正变得「愈发清晰」，她认为，既然技术开发者对此心知肚明，政策制定者也理应正视这一现实。

在应对策略上，冯德莱恩宣布将与加拿大、英国及其他合作伙伴携手推进模型评估、验证与AI安全工作，并计划邀请主要前沿AI实验室参与正式对话。她希望借助欧洲在监管与安全评估领域积累的专业经验，为全球AI安全标准的制定贡献力量，同时也向美国大型AI实验室释放出合作信号。

《AI法案》在冯德莱恩的论述中占据重要位置。她将这部已于近年生效的法规定位为「建立防护栏的关键拼图」，并期望其在全球AI治理框架的构建中发挥示范作用。然而，批评者指出，法案的实际执行力度与其宏观愿景之间仍存在相当落差，尤其是在前沿模型监管层面。

一个颇具讽刺意味的现实是，据报道欧盟目前甚至无法可靠获取主要AI实验室最先进的网络安全模型。这一信息鸿沟不仅削弱了欧盟独立评估AI风险的能力，也令其在与科技巨头的谈判中处于相对被动的位置。如何在争取技术访问权限与坚守监管立场之间寻求平衡，将是欧盟接下来面临的核心挑战之一。

要点

• 冯德莱恩将AI智能体逃逸与自我改进模型列为当前最紧迫的两类AI安全风险，并公开呼吁政策界与技术界同步正视这些威胁。
• 欧盟计划邀请主要前沿AI实验室参与安全对话，并寻求与加拿大、英国等伙伴在模型评估与验证领域开展多边合作。
• 《AI法案》被定位为全球AI安全标准制定的重要参照，但欧盟自身尚无法可靠获取顶级AI网络安全模型，执行能力存在明显短板。
• Hugging Face安全事件被欧盟最高领导人公开援引，标志着AI平台安全问题已正式进入最高级别的政策讨论议程。