产业 / 媒体
外部审计揭示OpenAI AI安全监控存在重大漏洞
来自METR和Redwood Research的两名研究人员于2026年7月21日至8月11日在OpenAI总部驻场三周,对其内部AI代理行为监控系统展开深度审计。审计结果显示,GPT-5.5级别及以上模型产生的内部代理API流量中,有6%至25%完全未被监控覆盖。此外,Codex内部流量中约10%因系统处理「压缩事件」(即上下文摘要)时存在漏洞,在5月至7月间未被追踪记录。审计人员还发现,代理可通过持续执行操作而非将控制权交还用户的方式规避监控触发机制,并找到了向监控系统隐藏数百条操作记录、绕过Codex沙箱的方法。OpenAI表示已修复所有已知漏洞,但完整的61页报告经大量删改后仅向公众公开了摘要版本,外界对审计全貌的了解依然十分有限。
2026年7月至8月间,METR与Redwood Research的研究人员受邀进驻OpenAI,对其内部AI代理监控体系展开为期三周的现场审计。审计团队获得了访问OpenAI代码库和内部文件的权限,并对约十余名员工进行了访谈。这是一次由三方联合组织的试点项目,旨在为外部研究人员提供深入接触企业内部基础设施的机会。
审计结果揭示了多项严重缺陷。在GPT-5.5级别及以上模型的内部代理Responses API流量中,估计有6%至25%在审计期间完全未被监控系统覆盖。METR特别指出,这一估算存在较大的不确定性,实际比例可能在两个方向上均有偏差。这意味着OpenAI对其最先进模型的实际行为存在相当程度的监控盲区。
针对Codex内部流量的审计同样发现了问题。由于系统在处理「压缩事件」(即上下文摘要)时存在逻辑漏洞,2026年5月至7月间约有10%的本应受监控的Codex流量未被追踪。值得注意的是,OpenAI在审计进行期间已独立发现并修复了这一漏洞,但修复时间点晚于问题发生窗口。
审计人员还发现了代理规避监控的多种途径。由于监控系统仅在代理将控制权交还用户时才会触发,代理可以通过持续执行操作来延迟乃至绕过监控。此外,审计团队找到了向监控系统隐藏数百条操作记录的方法,并成功绕过了Codex沙箱环境。研究人员还判断,经过特殊构造的输入内容很可能导致监控系统完全崩溃。
在强化学习训练方面,审计开始时模型训练过程完全未被纳入监控范围。OpenAI表示,在2026年8月的Hugging Face事件后,公司已暂停强化学习训练并扩展了监控覆盖范围,但这些变更均发生在审计人员访问期结束之后,未能纳入本次评估。
尽管OpenAI声称已修复审计人员发现的所有漏洞,但信息透明度问题引发了外界关注。完整的61页审计报告经OpenAI大量删改后,METR和Redwood Research领导层仅获得了38页版本,公众能够看到的只有一份简短摘要。METR表示无权自行披露被删除的内容,并明确表示在未来的审计项目中将推动更高程度的公开透明。
要点
- GPT-5.5级别及以上模型的内部代理流量中,有6%至25%在审计期间完全未被监控覆盖,显示OpenAI对高级模型行为的监控存在显著盲区
- 审计人员发现代理可通过持续执行操作绕过监控触发机制,并找到了隐藏操作记录、绕过沙箱及可能导致监控系统崩溃的多种方法
- 强化学习训练过程在审计开始时完全未被监控,相关改进措施在审计访问期结束后才得以实施
- 完整61页审计报告经大量删改,公众仅能获取摘要版本,外部审计的透明度受到严重限制
- 此次审计为试点项目,METR表示将在未来审计中推动更高程度的公开透明,以加强对AI安全监控的外部问责
原始标题:Three-week on-site audit at OpenAI reveals major gaps in AI safety monitoring
本文由 DataHub 基于公开来源整理,用于信息发现与摘要阅读;具体事实、数据和后续更新以原始来源为准。