Google DeepMind联合多方发起千万美元多智能体安全研究资助计划

过去十年，AI安全研究的重心始终落在单一模型的能力与对齐上。然而随着AI技术加速演进，一个全新的挑战正在成形：来自不同组织、运行于不同平台的数百万AI智能体，将在数字环境中频繁交互、协商乃至自主交易。Google DeepMind认为，这一转变标志着AI发展进入新纪元，也带来了从源头强化整个AI生态系统安全性的关键窗口期。

多智能体系统最令人担忧的特性在于「涌现行为」——当大量独立智能体相互作用时，群体层面可能突然出现任何单一智能体都不具备的新能力或新行为模式。目前，研究界尚缺乏有效工具来预测、测量和监控这类转变。Google DeepMind此前发布的研究已建立了理解多智能体交互的初步框架，其近期关于「AI智能体陷阱」的工作则进一步揭示了智能体在对抗性环境中面临的漏洞，但整体研究进展仍落后于系统复杂度的增长速度。

此次资助计划设定了四个优先研究方向。其一是沙盒与测试平台，即构建可复现的真实场景环境，涵盖虚拟市场、模拟生态系统和跨组织工作流，为多智能体安全评估提供基准。其二是智能体网络科学，重点研究智能体群体的集体能力如何涌现与扩展、网络如何失效或陷入不稳定，以及如何检测危险的群体级属性。

第三个方向是强化智能体基础设施，即对跨平台智能体交互所依赖的身份认证、信誉机制和承诺协议进行压力测试，确保其安全可靠。第四个方向是监督与控制，致力于开发能够大规模监控已部署智能体群体、并在集体层面缓解潜在危害的方法。这四个方向共同构成了一套从环境模拟到运行时治理的完整研究图谱。

此次资助计划的发起方阵容体现了多方协作的必要性。施密特科学的「可信AI科学」项目长期支持前沿AI风险的基础研究，ARIA的「扩展信任」计划则专注于解锁新型网络物理多智能体协调能力。Google DeepMind明确表示，没有任何单一实验室能够独立解决多智能体安全问题，因此邀请全球学术界和独立研究者共同参与，以确保安全标准对所有人透明且稳健。申请截止日期为2026年8月8日，获资助者预计于2026年秋季公布。

要点

• Google DeepMind联合四家机构发起最高1000万美元的多智能体AI安全研究资助，面向全球研究者开放，申请截止日期为2026年8月8日。
• 现有AI安全评估框架主要针对单一模型，无法有效预测和管控数百万智能体相互交互时产生的涌现行为，这是本次资助计划要解决的核心问题。
• 资助聚焦四大方向：沙盒与测试平台、智能体网络科学、智能体基础设施强化，以及大规模监督与控制机制。
• 多智能体安全研究被视为需要全球研究社区协作的系统性工程，单一机构无法独立完成，多元视角对于制定透明且稳健的安全标准至关重要。