据报道,包括纽约和迈阿密在内的几个城市的执法部门一直在使用有争议的面部识别软件追踪和逮捕涉嫌在黑人生命也是命(Black Lives Matter)抗议活动发生几个月后参与犯罪活动的个人。
据当地NBC附属公司WTVJ本周报道,迈阿密警方使用Clearview AI识别并逮捕了一名涉嫌在5月份的抗议活动中向一名警察投掷石块的女子。根据这份报告,该机构有一项政策,禁止使用面部识别技术来监视人们进行宪法保护的活动,如抗议活动。
迈阿密警察助理局长阿曼多·阿吉拉尔告诉NBC6,如果有人和平抗议而没有犯罪,我们不能利用这一点来对付他们。但是,阿吉拉尔补充说,我们已经使用这项技术来识别暴力抗议者,他们袭击警察,破坏警察财产,放火焚烧财产。我们已经在这些案件中逮捕了几个人,不久的将来还会有更多的人被捕。
代表这名女子的律师说,在记者联系之前,他不知道警方是如何识别他的客户的。他告诉NBC6,我们不知道他们是从哪里得到这张照片的。因此,他们是如何或从哪里获得她的形象的,这就要求获得其他隐私权。他们翻她的社交媒体了吗?他们是如何访问她的社交媒体的?
最近几周,全国各地也出现了类似的报道。据当地报纸The State报道,南卡罗来纳州哥伦比亚和周边县的警方也使用了面部识别,尽管来自不同的供应商,但在事后逮捕了几名抗议者。据费城问询者报道,费城的调查人员还使用了来自第三家供应商的面部识别软件,从发布在Instagram上的照片中识别抗议者。
据Gothamist报道,纽约市市长比尔·白思豪周一承诺,纽约警察局将非常谨慎,非常有限地使用任何涉及面部识别的东西。在此之前,本月早些时候发生了一起事件,当时数十名纽约警员在警犬、无人机和直升机的陪同下,突然来到曼哈顿一名活动人士的公寓,人工智能工具确认这名活动人士涉嫌在6月份的一次抗议活动中用扩音器对一名警察的耳朵大喊。
正在进行的全国性抗议活动旨在引起人们对警务中系统性种族差异的关注,这引起了人们对警察使用面部识别系统的更多关注。
反复的测试和研究表明,今天使用的大多数面部识别算法在试图匹配具有有色人种特征的图像时,更有可能产生假阳性或其他错误。去年年底,美国国家标准与技术研究所(NIST)发布了一项研究,发现它测试的面部识别系统在识别白人男性时具有最高的准确性,但在识别黑人、亚洲人或美洲原住民面孔时出错的可能性要高出10到100倍。
在匹配民权抗议者的照片时,还有另一个问题,尤其是2020年的问题:NIST在7月份发现,大多数面部识别算法在匹配蒙面面孔时的表现要差得多。今年夏天在全国各地参加游行、集会和示威的数以百万计的人中,有相当大一部分人戴上了口罩,以减轻新冠肺炎在大量人群中传播的风险。
美国公民自由联盟(ACLU)在6月份对底特律警方提起诉讼,指控该部门基于面部识别软件提供的有缺陷的、不完整的匹配逮捕了错误的男子。在美国公民自由联盟投诉之后,底特律警察局长詹姆斯·克雷格承认,他的机构使用的软件有96%的时间误认了嫌疑人。
IBM在6月份退出了面部识别业务。该公司还要求国会通过法律,要求供应商和用户测试他们的系统是否存在种族偏见,并对此类测试进行审计和报告。亚马逊呼应了要求国会通过一项法律的呼吁,同时要求警方暂停使用其Rekognition产品一年,希望国会在明年夏天之前采取行动。
尤其是Clearview-在迈阿密使用-由于超出了潜在偏见的原因,具有很大的争议性。“纽约时报”(New York Times)1月份的一篇报道发现,这家高度保密的初创公司基本上是在整个互联网上搜寻图片,以填充其人脸数据库。Facebook、YouTube、Twitter、微软和其他公司几乎都在报告公布后的几天内发出了停止Clearview的命令,但该公司仍然夸口说,它手头有大约30亿张照片,供合作伙伴(主要但不只是执法部门)与个人的照片进行匹配。
该公司正面临来自各州和美国公民自由联盟(ACLU)的几起诉讼,而个人则在寻求集体诉讼地位。