AI资讯 / 产业

产业 / 媒体

用服装迷惑AI监控摄像头

IEEE Spectrum AI

全球街头遍布AI摄像头,具备识别人脸与车牌的能力,由此引发的隐私争议日益激烈。在抗议、破坏等极端行动之外,一批设计师和研究者选择了更具创意的路径——将对抗性图案织入日常服装,让计算机视觉系统产生误判。网络安全专家Bill Swearingen在DEF CON黑客大会上展示了一套强化学习算法,可生成能干扰11种目标检测模型的几何图案。Cap_able品牌将鲜艳图案编织进提花针织面料,使卷积神经网络将穿戴者误识别为动物或物体;Urban Privacy的新系列则通过人脸抽象印花向识别系统注入虚假数据。然而研究者也坦承,这类服装并非万能盾牌:光线、角度、布料褶皱乃至步态都会影响效果,而监控系统一旦针对特定图案重新训练,防护效果便会失效。

随着AI摄像头在全球城市街道上大规模铺开,公众对无处不在的监控系统的反弹情绪也在持续升温。人们担忧的核心在于:数据采集缺乏知情同意、存储与使用方式不透明,以及被滥用的潜在风险。DeFlock项目通过绘制自动车牌识别仪的分布地图来提升公众意识,而另一些人则选择直接破坏设备。在这些行动之外,一种更具创意的抵抗方式正在成形——以服装作为对抗AI监控的工具。

网络安全专家Bill Swearingen于2025年开始用Python编写模糊测试工具,针对主流目标检测框架YOLO寻找漏洞。他随后将研究成果转化为一套强化学习算法,能够自动生成各类对抗性图案,并在DEF CON大会上公开展示。这些色彩鲜艳的几何抽象图案已在11种目标检测模型上完成测试,涵盖人脸搜索、人脸识别和人体检测三类系统。成功的图案可显著拉低模型的置信度评分,有时甚至让系统完全无法检测到目标。

Cap_able和Urban Privacy两个品牌已将对抗性图案转化为可购买的实体服装。Cap_able采用专利提花编织工艺,将大胆鲜艳的图案融入针织面料,干扰基于快速卷积神经网络的计算机视觉系统,使其将穿戴者误判为动物或物体。创始人Rachele Didero表示,这件可见的实体物品是讨论那些通常无形议题的媒介。Urban Privacy的Faception Reloaded系列则以人脸抽象黑白印花迷惑基于OpenCV算法的人脸识别系统,同时通过不对称剪裁和宽松廓形遮蔽体型与步态特征。

对抗性时尚并非新生事物,其根源可追溯到十余年前AI监控兴起之初涌现的艺术装置与DIY实验。技术专家Adam Harvey在2010年代开发了多种设计,包括能欺骗人脸检测器的发型与妆容,以及可反射热成像的服装。2019年,艺术家Kate Bertash创立Adversarial Fashion品牌,在服装上印制虚假车牌号码,向车牌识别数据库注入垃圾数据。如今,这一趋势正逐渐演变为一个小而稳固的细分产业。

尽管如此,研究者对这类服装的局限性保持清醒认识。卡内基梅隆大学即将入职的教授Niloofar Mireshghallah指出,摄像头角度、光线条件、布料褶皱以及步态识别都会削弱防护效果,而且只需一帧清晰画面,系统便可完成识别。更关键的是,对抗性图案必须针对特定模型调校,一旦监控运营方用该图案重新训练新一代模型,服装的防护效果便会彻底失效。富士通北美公司视觉AI与AI伦理专家Dippu Kumar Singh将其形容为一面脆弱的盾牌,面对的是一个从多个维度持续进化的威胁。

即便面临重重挑战,这场以时尚为载体的隐私抵抗运动仍在持续推进。Cap_able计划继续技术创新,Urban Privacy将推出配备亚克力面罩的遮脸帽等新品,Swearingen也在探索图案干扰摄像头设置等异常现象。Mireshghallah提醒,真正的风险在于数据聚合——系统可将局部面孔、背景建筑、时间戳和社交媒体标记等零散信号拼合成精准的身份判断。她的建议是:不要只想着遮住脸,更要思考自己在其他维度泄露了什么信息,因为没有任何一件衬衫上的图案能解决这个问题。

要点

  • 对抗性时尚通过将特殊图案织入服装,可干扰人脸识别和人体检测等AI视觉系统,使其产生误判或降低置信度
  • Cap_able、Urban Privacy等品牌已将这一概念商业化,网络安全研究者也在DEF CON等场合展示了相关算法工具
  • 现实条件下的局限性不可忽视:光线、角度、步态识别以及监控系统的持续迭代训练都会削弱服装的防护效果
  • 研究者警告,数据聚合才是更深层的隐私威胁——系统可将多个弱信号组合成精准的身份识别,服装图案无法应对这一挑战
  • 这场运动的意义不仅在于技术对抗,更在于以可见的方式表达对数字时代隐私权的主张与诉求
查看原始来源

原始标题:Adversarial Fashion Confronts Surveillance Norms

本文由 DataHub 基于公开来源整理,用于信息发现与摘要阅读;具体事实、数据和后续更新以原始来源为准。