AI资讯 / 模型

模型 / 官方

Anthropic 向独立评估机构开放内部访问权限,METR 率先获得员工级接入

Anthropic News

Anthropic 于 2026 年 10 月宣布,已向非营利组织 METR 的六名员工提供公司硬件、办公空间及内部工具访问权限,访问级别与公司自身风险评估团队基本相当。METR 将独立发布其对 Anthropic 模型风险水平、安全事件及相关实践的评估报告,Anthropic 无权否决发布,仅可要求删除客户数据、律师特权信息等预定义类别的内容,且 METR 有权公开说明删改情况。此外,Anthropic 还与 SecureBio 和 Accenture 建立了评估合作关系,并与 Hugging Face 等多家机构处于早期洽谈阶段。公司将评估合作划分为三个层级,目标是逐步扩大嵌入式独立评估机构的数量,推动整个前沿 AI 行业建立更为健全的安全监督机制。

随着 AI 模型能力持续增强,外界对其安全性的审查需求也随之提升。Anthropic 表示,公司无法将所有安全相关信息公开披露——部分内容可能被恶意行为者利用,部分则涉及算力、训练数据等商业敏感信息。为此,公司选择向经过筛选的第三方评估机构开放深度访问权限,由其代为审查并发布有据可查的风险结论,以弥合外界对前沿 AI 公司内部状况的认知差距。

在具体安排上,METR 的六名员工已正式入驻 Anthropic,获得与内部风险评估团队相当的工具和系统访问权限。除客户数据、律师特权信息及模型架构等少数预定义类别外,Anthropic 员工被鼓励像对待同事一样与 METR 人员共享信息。METR 发布报告无需 Anthropic 审批,但须遵守保密协议;若 Anthropic 要求删改,METR 有权公开说明删改范围及其是否认为删改合理。

Anthropic 将评估合作划分为三个层级。第一层级中,评估机构开展范围有限的风险调查,发布报告须经 Anthropic 批准;第二层级赋予评估机构更广泛的信息访问权及独立发布权;第三层级即 METR 目前所处的层级,享有员工级访问权限和类似第二层级的发布权利。SecureBio 目前处于第一层级,正在审查 Anthropic 8 月风险报告中的化学和生物武器章节。

Anthropic 将这一模式类比于银行监管中的驻场检查员制度——监管机构向大型银行派驻检查员,以获取银行自身掌握的风险信息。对于 AI 行业而言,嵌入式独立评估是迈向健全安全监督的重要一步。公司强调,这一机制并非向外部组织开放客户或合作伙伴数据的渠道,参与嵌入的 METR 小团队与该机构其他研究人员之间存在严格的信息隔离。

除 METR 外,Anthropic 还与 Accenture 和 Faculty 推进更具雄心的合作计划,内容涵盖模型评估与红队测试、对齐评估、安全防护测试及跨组织能力建设。公司表示,嵌入独立评估机构是自愿行为,但同时呼吁所有前沿 AI 公司效仿这一做法,共同推动行业层面的透明度与安全问责机制建设。

要点

  • METR 获得 Anthropic 员工级内部访问权限,可独立发布风险评估报告,Anthropic 无否决权。
  • Anthropic 建立三层评估合作体系,目标是逐步扩大具备完整访问和发布权限的嵌入式评估机构数量。
  • SecureBio、Accenture 及 Hugging Face 等机构也在不同阶段参与合作,形成多元评估格局。
  • 该机制参照银行驻场监管逻辑,旨在弥合外界对前沿 AI 公司内部风险状况的认知差距。
  • Anthropic 呼吁所有前沿 AI 公司主动引入独立嵌入式评估,推动行业安全监督标准化。
查看原始来源

原始标题:Anthropic update on independent evaluators

本文由 DataHub 基于公开来源整理,用于信息发现与摘要阅读;具体事实、数据和后续更新以原始来源为准。