AI资讯 / 产业

产业 / 媒体

Anthropic称已将Claude推理令牌盗取量削减最高99%

The Decoder

Anthropic近日披露,其Claude模型正遭受大规模「蒸馏攻击」——攻击者通过系统性地提取模型内部推理步骤,将其能力复制到自己的小型模型中。Anthropic表示,新防御措施上线后,被提取的推理令牌数量已下降90%至99%。公司点名中国企业智谱(Zhipu)和Moonshot参与其中:智谱被指从美国顶级模型中窃取网络能力用于训练其GLM-5.3模型,Moonshot则被指秘密将查询请求路由至Claude。攻击者动用数十万个虚假账号实施攻击,所窃取的能力存在流入外国军事和监控系统的风险。目前Anthropic已封禁数万个相关账号,并呼吁其他AI开发者采取类似防护措施,但也承认部分合法用户在此过程中受到了误伤。

Anthropic近日公开披露,其旗下Claude模型正面临前所未有的工业级蒸馏攻击威胁。所谓蒸馏攻击,是指攻击者通过大量调用目标模型,系统性地提取其内部推理过程(即「链式思维」步骤),并将这些数据用于训练自己规模更小、成本更低的模型,从而在不付出原始研发代价的情况下复制顶级模型的核心能力。

Anthropic在报告中点名指出,中国企业智谱(Zhipu)和Moonshot是此次攻击的参与方。智谱被指控从包括Claude在内的美国领先模型中窃取网络安全相关能力,并将其用于训练自家的GLM-5.3模型;Moonshot则被指秘密将用户查询请求路由至Claude,以获取推理数据。Anthropic警告称,这些被盗能力存在最终流入外国军事系统和监控基础设施的风险。

为实施攻击,攻击者构建了由数十万个虚假账号组成的庞大网络,以规避平台的检测和限速机制。Anthropic表示,在新防御体系上线后,成功的蒸馏尝试数量出现了大幅下滑。目前公司已采取三项核心措施:限制外部对Claude内部推理步骤的访问权限、部署专门识别提取行为的分类器,以及对被标记账号实施自动封禁。

从防御效果来看,Anthropic称被提取的推理令牌总量已下降90%至99%,数万个相关账号已遭封禁。这一成果表明,针对性的技术防御措施能够在短期内显著压缩攻击者的操作空间。不过,Anthropic也坦承,现有检测机制并非无懈可击,部分正常使用Claude的合法用户也在这一过程中受到了误伤。

Anthropic在公开此事的同时,呼吁整个AI行业共同应对蒸馏攻击威胁,建议其他AI开发者采取类似的防护措施。此次事件将模型知识产权保护与地缘政治安全风险紧密联系在一起,也预示着AI能力竞争的战场正在从公开的技术研发,延伸至更为隐蔽的数据与能力窃取领域。如何在开放生态与安全防护之间寻求平衡,将成为行业未来必须正视的核心议题。

要点

  • Anthropic新防御措施使Claude推理令牌被提取量下降90%至99%,数万个攻击账号已遭封禁
  • 中国企业智谱和Moonshot被点名参与大规模蒸馏攻击,攻击者动用数十万虚假账号实施操作
  • 被盗推理能力存在流入外国军事和监控系统的风险,攻击已超出单纯商业竞争范畴
  • Anthropic承认现有检测机制存在误伤合法用户的问题,并呼吁行业共同建立防护标准
查看原始来源

原始标题:Anthropic says it cut Claude reasoning token theft by up to 99% in fight against industrial-scale distillation

本文由 DataHub 基于公开来源整理,用于信息发现与摘要阅读;具体事实、数据和后续更新以原始来源为准。