芝加哥大学的研究人员开发的工具Fawkes用像素级别的变化来伪装照片，这让面部识别系统感到困惑

近年来，公司一直在网络上搜寻与人名相关的公共照片，这些照片可以用来建立庞大的面孔数据库，并改进他们的面部识别系统，这让人们越来越感觉到，个人隐私正在一点一滴地被丢失。

例如，一家名为Clearview AI的初创公司收集了数十亿张在线照片，为警方建立了一个工具，可以引导他们从一张脸到一个Facebook账户，揭示一个人的身份。

现在，研究人员正试图挫败这些系统。芝加哥大学的一组计算机工程师开发了一种工具，可以用像素级别的变化来伪装照片，这会让面部识别系统感到困惑。

为了纪念世界各地抗议者喜欢的盖伊·福克斯面具，该软件被命名为福克斯，上个月在研究人员的网站上向开发人员提供了这款软件。被黑客新闻发现后，下载量已超过5万次。研究人员正在为非编码者开发一个免费的应用程序版本，他们希望很快就能推出。

该软件的目的不仅仅是为热爱隐私的个人提供一次性工具。如果部署在数百万张图像上，它将是对面部识别系统的猛烈抨击，毒化它们从网络收集的所谓数据集的准确性。

芝加哥大学(University Of Chicago)计算机科学教授本·赵(Ben赵)表示：“我们的目标是让Clearview消失。”

Fawkes通过微妙地改变面部识别系统在构建一个人的面部指纹时所依赖的一些特征，来转换图像-用研究人员的话说是“遮盖”它。在OneZero早些时候报道的一篇研究论文中，该团队描述了利用演员帕特里克·邓普西(Patrick Dempsey)的脸“隐形”女演员格温妮丝·帕特洛(Gwyneth Paltrow)的照片，以便根据这些照片了解帕特洛的长相的系统将开始将她与邓普西的一些面部特征联系起来。

这些变化通常很微妙，肉眼无法察觉，当系统拿到一张真实的、没有遮盖的帕特洛照片时，会阻止系统识别她。在测试中，研究人员能够欺骗亚马逊、微软和中国科技公司Megvii的面部识别系统。

为了测试这个工具，我让团队遮盖了一些我和我的家人的照片。然后，我将原始照片和伪装图片上传到Facebook，看看它们是否欺骗了社交网络的面部识别系统。它起作用了：Facebook在原始照片中标记了我，但在隐形版本中没有认出我。

然而，这些照片的变化用肉眼是可以注意到的。在修改后的照片中，我看起来很可怕，我3岁的女儿长出了看起来像是面部毛发的东西，我丈夫的眼睛似乎是黑的。

研究人员对此有一些解释。其一是，该软件的设计是为了将你与那些看起来尽可能不像你的人的面部模板进行匹配，这些模板是从名人面孔数据库中提取的。这通常最终会变成异性，这会导致明显的问题。

“女人留八字胡，男人长睫毛或眼影，”赵先生说。他对他所说的“隐私盔甲”很感兴趣，此前他帮助设计了一款手镯，可以阻止智能扬声器无意中窃听对话。

该团队表示，他们计划调整软件，使其不再微妙地改变用户的性别。

另一个问题是，我的实验并不是这个工具设计的目的，所以芝加哥大学的博士生肖恩·山(Shawn Shane)是Fawkes软件的创建者之一，他对我的照片进行了尽可能极端的修改，以确保它能正常工作。Fawkes并不是要阻止像Facebook这样的面部识别系统识别出一张照片中的人。它正试图更广泛地破坏面部识别系统，执行一种名为数据中毒的算法攻击。

研究人员说，理想情况下，人们会开始遮盖他们上传的所有照片。这将意味着像Clearview这样的公司无法创建一个正常运行的数据库，因为你在现实世界中的不明身份照片与Clearview随着时间的推移从你的在线照片中建立的你的模板是不匹配的。

但Clearview的首席执行官Hoan ton-That在Clearview应用程序上运行了我的Facebook实验的一个版本，并表示这项技术不会干扰他的系统。他说，事实上，他的公司可以使用福克斯掩盖的图像来提高对更改图像的理解能力。

“互联网上有数十亿张未经修改的照片，都在不同的域名上，”Ton先生说。“在实践中，几乎可以肯定的是，要完善像Fawkes这样的技术并进行大规模部署已经太晚了。”

其他专家也对福克斯能否奏效表示怀疑。面部识别先驱约瑟夫·阿蒂克(Joseph Atick)已经开始后悔他帮助创建的监控社会，他说，我们已经提供的大量我们自己的图像太难克服了。

“猫已经从袋子里跑出来了。我们就在那里，“阿蒂克博士说。“虽然我鼓励这种类型的研究，但我高度怀疑这是否是解决我们所面临问题的解决方案。”

阿蒂克博士认为，只有立法者才能确保人们拥有面部匿名权。目前还没有这样的联邦法律出台，尽管民主党参议员最近确实提议禁止政府使用面部识别。

“我个人认为，无论你使用哪种方法，你都会输，”帮助创建Fawkes的博士生艾米丽·温格(Emily Wenger)说。“你可以拥有这些技术解决方案，但这是一场猫捉老鼠的游戏。你可以有法律，但总会有非法的行为者。“。

温格认为需要“双管齐下”，让个人拥有技术工具和隐私法来保护自己。

加州大学戴维斯分校(University of California，Davis)法学教授伊丽莎白·乔(Elizabeth Joh)曾写道，像福克斯这样的工具是“隐私抗议”，即个人想要阻止监控，但不是出于犯罪原因。随着新的监控技术的引入，她反复看到了她所说的“令人厌倦的监视，然后是反监视，然后是反监视”。

“人们感觉到了隐私枯竭的感觉，”乔女士说。“在现实生活和网络生活中，我们传统的隐私感被利用的方式太多了。”

为了让福克斯立即生效，我们需要我们已经发布的所有照片在一夜之间被遮盖起来。如果一个维护着大量在线图片的巨大平台决定在全系统范围内推出Fawkes，那么这种情况就有可能发生。

像Facebook采用Fawkes这样的平台将阻止未来的Clearview通过抓取用户的图像来识别他们。“他们可能会说，‘把你的真实照片给我们，我们会把它们遮盖起来，然后我们会把它们分享给全世界，这样你就会受到保护，’”赵先生说。

Facebook发言人杰伊·南卡罗(Jay Nancrow)在被要求置评时，没有排除这种可能性。南卡罗说，“作为我们保护人们隐私的努力的一部分，我们有一个专门的团队探索这类技术和其他防止照片滥用的方法。”

“实际上，我现在正在Facebook的那个团队实习，”Fawkes的联合创建者单先生说。