AI资讯 / 产业

产业 / 媒体

英伟达主导的开放AI安全联盟成立仅一周,已提出首批行业提案

TechCrunch AI

由英伟达牵头成立的开放安全AI联盟(OSAA)在短短一周内已吸引超过120家企业加入,并在拉斯维加斯Black Hat网络安全大会期间迅速推出名为「共享AI发现交流平台」(SAFE)的工作组,向业界公开征求意见。该工作组的初步提案涵盖AI网络安全事件的保密报告机制、受影响方的预警流程以及无责任归咎的事后分析框架,旨在推动行业共同学习与改进。与此同时,成员企业也在积极贡献和整理各自的开源技术资产,英伟达提供开源LLM漏洞扫描工具Garak,亚马逊贡献了智能体构建工具Strands Agents及授权语言Cedar,Okta专注于智能体身份认证,Red Hat则致力于智能体治理。联盟成员已涵盖Adobe、BlackRock、思科、英特尔、微软、Visa等行业巨头,但Anthropic、OpenAI和谷歌尚未正式加入,尽管后两者曾联署催生该联盟的公开信。

由英伟达主导的开放安全AI联盟(OSAA)自成立以来动作迅速。仅仅一周时间,该联盟便在拉斯维加斯举行的Black Hat网络安全大会期间推出了名为「共享AI发现交流平台」(SAFE)的专项工作组,并已向业界公开发布首批提案征求意见。Linux基金会作为联盟成员之一,负责管理这些提案的审议流程,为整个机制提供了成熟的开源治理经验支撑。

SAFE工作组的初步提案聚焦于三个核心领域:如何以保密方式报告AI网络安全事件、如何及时向受影响方发出预警,以及如何开展无责任归咎的事后分析,以便整个行业从中汲取经验教训。这些提案目前尚属基础框架,并非颠覆性创新,但为行业建立统一的AI安全响应规范奠定了重要基础。

在技术贡献层面,联盟成员正积极整合各自的开源资产。英伟达提供了一整套开放模型家族及开源LLM漏洞扫描工具Garak;亚马逊贡献了智能体构建框架Strands Agents和授权语言Cedar;Okta专注于AI智能体身份认证技术的研发;Red Hat则主攻智能体治理方向。这些技术积木有望逐步拼合成一套企业级AI智能体安全防护的开源解决方案,同时也能帮助企业抵御恶意AI攻击者的入侵。

联盟成员阵容已颇为豪华,涵盖Adobe、BlackRock、思科、英特尔、微软、Visa等行业巨头,以及Hugging Face等AI领域重要平台。然而,Anthropic、OpenAI和谷歌三家头部AI企业尚未正式加入,这一缺席颇为引人关注——尤其是OpenAI和谷歌均曾联署催生该联盟的公开信,谷歌也一向以开源社区的重要支持者著称。业界正在观望这两家企业是否会随着联盟影响力的扩大而最终入列。

OSAA的成立有其特定的政策背景。数周前,特朗普政府曾考虑禁止中国开放权重AI模型在美使用,此举引发业界强烈担忧,进而催生了由英伟达主导、逾200家科技企业联署的公开信,呼吁白宫支持而非压制开源AI发展。部分业内人士认为,以开放的方式推动AI安全与创新,才是应对中国AI竞争压力的最有效路径。OSAA的快速行动,正是这一理念的直接体现。

要点

  • OSAA联盟成立仅一周便推出SAFE工作组并发布首批AI网络安全提案,展现出远超传统行业组织的行动速度。
  • 英伟达、亚马逊、Okta、Red Hat等成员企业正积极贡献开源技术,长期目标是构建企业级AI智能体安全防护的开源生态。
  • 联盟已汇聚超120家企业,但Anthropic、OpenAI、谷歌三大AI巨头尚未正式加入,其动向值得持续关注。
  • 该联盟的成立直接源于特朗普政府考虑限制中国开放权重AI模型所引发的行业危机感,开源被视为应对AI安全与竞争挑战的核心策略。
  • Linux基金会参与管理提案审议流程,为联盟的开源治理机制提供了成熟的制度保障。
查看原始来源

原始标题:Nvidia doesn’t mess around: A week after open AI industry group formed, it’s already showing progress

本文由 DataHub 基于公开来源整理,用于信息发现与摘要阅读;具体事实、数据和后续更新以原始来源为准。