AI护栏如何阻碍进攻型网络安全研究者的工作

AI巨头如OpenAI和Anthropic为限制模型被恶意黑客利用，推出了严格护栏和审查程序。但这些措施正阻碍合法网络防御者和进攻型安全研究人员的工作。进攻型研究者主动探测系统弱点，发现未知漏洞并开发利用工具，以在黑客之前修补系统。他们抱怨护栏过于严苛，导致无法有效进行漏洞验证和利用分析。

知名安全研究员Mark Dowd在播客中表示，他不喜欢大型公司随意决定安全领域何为安全。他花费数十年发现并出售零日漏洞给西方政府，而非报告给软件厂商修补。政府为漏洞支付高价，因其保持开放对情报行动有用。Dowd承认自己可能有偏见，但并非孤例。

NCC Group首席科学家Chris Anley指出，要求AI模型尝试利用漏洞是确认其真实性的关键步骤。但护栏导致模型拒绝回答，反而伤害防御者。他比喻AI工具像锤子，既能建房也能作为武器，两者不可分割。当遇到障碍时，他和同事有时会转向无护栏的开源模型。

CrowdFense CTO Paolo Stagno同意Dowd观点，认为AI公司通过审查程序和护栏将客户当需要保姆的孩子对待。他和同事使用前沿模型仅用于逆向工程，避免用AI寻找漏洞或构建利用，因为将敏感数据输入云端模型有泄露风险。他们使用本地运行的开源模型，不依赖外部数据共享。

安全研究员Giuseppe Cali表示护栏并未阻碍他的工作，因为他不用AI进行进攻性工作，仅用于初始逆向工程和理解代码。AI工具能加速流程，让他专注于发现漏洞。他坚持自己掌控漏洞发现和武器化，即使明天取消所有护栏也不会改变。

RemoteThreat CEO Chris Thompson认为，护栏不一致且每天变化，导致研究者花费大量时间与模型协商而非处理核心安全程序。结果，研究者被推向中国开源模型如GLM，这些模型可自由下载本地运行，无审查或使用限制。他呼吁AI实验室开放程序、提供负责任访问，并追究滥用者责任，否则防御者将在AI竞赛中落败。

要点

• AI护栏阻碍进攻型安全研究者验证漏洞和开发利用工具，影响防御工作。
• 研究者转向无护栏的开源模型，包括中国开源模型，以规避限制。
• 护栏不一致且每天变化，导致研究者花费时间与模型协商而非处理核心安全任务。
• 部分研究者避免将敏感漏洞数据输入云端模型，使用本地运行的开源模型。
• AI实验室被呼吁开放程序、提供负责任访问，并追究滥用者责任。