产业 / 媒体
不反对开放权重模型,但对中国AI深感忧虑
Anthropic创始人兼CEO Dario Amodei于本周一发文回应业界传言,明确否认其公司曾支持美国政府禁止开放权重模型的相关举措。此前,英伟达CEO黄仁勋联合Meta、微软、Hugging Face等多家AI企业发表公开信,呼吁政策制定者不要对开放权重模型施加过早的广泛限制。Amodei在声明中强调,不具备危险能力的开放权重模型是一种公共产品,能为企业、开发者和研究人员创造价值。然而,他真正担忧的是威权政府——尤其是中国共产党——利用比美国更强大的AI模型实现永久军事优势,或借此压制本国民众。他还指出,开放权重模型在生物攻击等高风险场景下更难施加安全护栏,一旦发布便无法撤回。Amodei同时表达了对建立全球AI安全测试机制的支持,认为即便是中国也有动力参与其中。
Anthropic创始人兼CEO Dario Amodei于7月27日发文,正面回应了业界对其公司立场的质疑。此前有传言称Anthropic暗中支持美国政府禁止开放权重模型,尤其是来自中国的相关模型。Amodei在文中以加粗字体强调:「Anthropic从未主张禁止开放权重模型。」他表示,任何读过其过往文章的人都应清楚,他并不认为此类禁令是有效的政策手段。
这篇声明的背景,是英伟达CEO黄仁勋于上周五在X平台发布首帖,联署了一封由英伟达、Meta、微软、Hugging Face、Mistral等多家AI企业共同签署的公开信。信中呼吁政策制定者避免对开放权重AI模型施加过早的广泛限制。尽管公开信未直接点名中国,但业界争论的核心正是中国AI实验室通过知识产权窃取——包括利用蒸馏技术向美国模型大量发送提示词以学习其运作方式——快速提升自身能力的问题。
Amodei在文中将开放权重模型与中国威胁明确区分为两个不同议题。他认为,不具备危险能力的开放权重模型是一种公共产品,除运行所需的算力外不产生额外成本,能为企业、开发者和研究人员带来切实价值。他表示,即便是使用来自中国的开放权重模型的企业,也并非他真正担忧的对象。
Amodei真正的忧虑指向更深层的地缘政治风险。他担心威权政府——其中中国共产党是他认为「能力最强」的一个——会开发出超越美国的AI系统,从而实现永久军事优势,或利用AI压制本国民众。他还特别提及AI赋能生物攻击的风险,认为这一威胁不亚于网络安全层面的挑战。在这些高风险场景中,开放权重模型因难以施加安全护栏、无法监控使用情况,且一旦发布便无法撤回,反而构成更大的隐患。
在应对措施上,Amodei支持限制中国获取高性能芯片(这也是美国长期以来的政策方向),并呼吁正式打击蒸馏行为。他同时对建立全球AI安全测试机制表达了积极态度,认为若包括中国在内的全球各方都同意接受测试,这一机制将具有重要意义。他指出,特朗普政府近期已在这一方向上有所推进,而围绕防止AI生物武器的有限合作或许是可行的,因为这也符合中国自身的利益。
Amodei的这篇声明在AI政策辩论持续升温之际发出,折射出业界在开放与安全之间寻求平衡的深层张力。一方面,开源倡导者认为强大的开放模型有助于防御者保护自身;另一方面,Amodei等人则担忧这些模型一旦落入威权政府之手,将带来难以逆转的安全风险。如何在推动技术普惠与防范国家级威胁之间划定边界,仍是摆在政策制定者和科技企业面前的核心难题。
要点
- Amodei明确否认Anthropic曾支持禁止开放权重模型,强调不具危险能力的开放权重模型是对社会有益的公共产品
- 他真正担忧的是威权政府——尤其是中国共产党——利用超越美国的AI实现军事霸权或压制民众,以及AI赋能生物攻击的风险
- Amodei认为开放权重模型在高风险场景下更危险,因其难以施加安全护栏且发布后无法撤回
- 他支持建立全球AI安全测试机制,并认为即便是中国也有动力参与防止AI生物武器的有限合作
- 此次表态将开放权重模型议题与中国地缘政治威胁明确区分,试图在开源倡导者与安全鹰派之间寻求立场平衡
原始标题:Anthropic’s Dario Amodei responds: doesn’t oppose open-weight models, but fears Chinese AI
本文由 DataHub 基于公开来源整理,用于信息发现与摘要阅读;具体事实、数据和后续更新以原始来源为准。