Anthropic CEO再度警告开放权重模型风险，强调从未主张全面禁止

Anthropic首席执行官Dario Amodei在最新博客文章中重申了他对开放权重AI模型的担忧立场。他明确表示，Anthropic从未呼吁全面禁止开放权重模型，并认可那些不具备危险能力的模型具有公共价值。但他同时指出，一旦模型能力达到一定阈值，开放发布将带来难以逆转的风险——因为已发布的模型无法被召回，且缺乏闭源模型所具备的安全防护机制。

Amodei提出了两个令他最为忧虑的场景。其一，以中国为代表的威权国家可能训练出超越美国水平的AI模型，并将其用于军事优势获取或大规模监控。其二，具备足够能力的开放模型可能被恶意行为者用于发动网络攻击或加速生物武器研发。他指出，AI实验室的使用数据已显示，即便是闭源模型也正在遭受此类滥用尝试，而开放模型将使这一风险大幅放大。

在生物安全威胁方面，Amodei认为攻防两端存在严重的不对称性。他表示，一个能力足够强大的模型可以在极短时间内协助武器化病毒，而构建有效防御体系即便在最理想的情况下也需要数年时间。英国AI安全研究所的一项研究则显示，开放权重模型在网络安全能力上目前仍落后于前沿闭源模型数月左右，但这一差距正在持续缩小。

在政策层面，Amodei呼吁美国政府采取多项措施：一是收紧芯片出口管制，防止中国在没有美国芯片的情况下训练更强大的模型；二是打击所谓的「工业级蒸馏」行为，即中国据报道通过蒸馏美国领先模型来部分规避芯片限制，从而成为美国AI进步的「搭便车者」。此外，他还主张对所有强大模型实施强制安全测试，无论其来源或授权方式如何。

然而，Amodei的立场遭到了来自多方的质疑。批评者认为，限制对华芯片销售主要会刺激中国本土芯片产业的发展，而蒸馏本身是一种合法且有益的技术手段。更有声音直接指出，Anthropic大力渲染开放权重模型的风险，根本动机在于保护自身闭源商业模式免受更廉价竞争对手的冲击。值得注意的是，OpenAI据报道仍在游说反对开放权重，尽管该公司已联署了一封由众多科技巨头共同签署的反对限制措施的公开信。

此次表态发生在美国当局据报道正在评估是否限制美国企业使用中国开放权重模型的背景之下。Amodei指出，在强制安全测试这一议题上，业界正在形成越来越广泛的共识，近期已有提案建议对来自初创企业和研究机构的低能力模型给予豁免。无论外界如何评价其动机，Amodei在AI安全风险问题上的一贯立场——包括此前对自家模型能力的公开警告——使其在这场争论中保持了内在逻辑的一致性。

要点

• Amodei明确表示Anthropic从未主张禁止开放权重模型，但坚持认为高能力开放模型在生物安全和网络攻击方面存在不对称风险，且已发布模型无法被召回。
• 他呼吁加强芯片出口管制并打击工业级蒸馏行为，以防止中国在AI能力上超越美国，同时要求对所有强大模型实施强制安全测试。
• 批评者认为Anthropic的真实动机是通过舆论手段压制开放权重模型，以保护自身闭源产品免受更廉价竞争对手的市场冲击。
• 英国AI安全研究所数据显示，开放权重模型在网络安全能力上目前仍落后于前沿闭源模型，但差距正在缩小，这为政策讨论提供了重要参照。
• 此次争论折射出AI治理领域的深层矛盾：开放与安全之间的张力、商业利益与公共政策之间的边界，以及中美AI竞争格局下的地缘政治考量。