一份新的报告发现,连锁药店Rite Aid在美国最大城市的数百家门店部署了面部识别技术,特别是在以有色人种为主的低收入社区。
路透社(Reuters)今天发表了一篇深入报道,援引内部文件,采访了40多名熟悉该系统的消息人士,以及对商店摄像头的第一手观察,发现这项技术至少部署在200家商店,其中包括纽约和洛杉矶确认的75家商店。
每当顾客进入使用这项技术的商店时,他们的图像都会被记录在数据库中。在回访时,该软件会将新图像添加到现有客户配置文件中。然后,它将这些图片与之前观察到的参与潜在犯罪活动的People Rite Aid名单进行对比。当该软件进行匹配时,商店保安员工会收到一条智能手机推送通知。
Rite Aid拒绝透露哪些门店使用了这项技术,但路透社驻曼哈顿和洛杉矶的记者在75家门店中发现了33家。
路透社发现,在这75家商店中,贫困地区的商店使用面部识别的可能性明显高于收入较高地区的商店-路透社走访的低收入地区的商店中有68%使用了面部识别,而富裕社区的商店中这一比例为25%。在黑人或拉丁裔居民构成最大人口群体的地区,Rite Aid地点使用面部识别的可能性是以白人为主的社区的三倍多。
据报道,Rite Aid使用的工具之一是DeepCam,它与中国的国家投资基金有关。参议员马尔科·卢比奥(佛罗里达州共和党人)。他告诉路透社,这种联系是令人震惊的,并补充说,中国输出其监听国家以收集美国数据的努力将是一个不可接受的严重威胁。
礼仪援助在2月份向路透社证实了该项目的存在,并在当时为该技术的使用进行了辩护。不过,在路透社发表这篇报道的一周前,Rite Aid显然表示不再使用该软件,摄像头本身也已关闭。
一位礼仪援助公司的代表告诉路透社,这一决定在一定程度上是基于更广泛的行业对话。其他大型科技公司似乎正在缩减或重新考虑他们在面部识别方面的努力,因为这项技术的效用越来越不确定。
面部识别技术在有效性上有臭名昭著的差异,这取决于它试图识别的是谁。总体而言,正在使用的算法对男性和浅色皮肤的人比对女性和深肤色的人效果更好。现在我们正处于一场大流行之中,增加口罩会使面部识别系统的工作变得更加糟糕。
Rite Aid在底特律的一名员工告诉路透社(Reuters),该公司最初使用的软件并不能很好地识别黑人。底特律的一名员工直言不讳地说,该公司最初使用的软件不能很好地识别黑人。这名防止损失的工作人员补充说,如果你的眼睛是同样的方式,或者如果你戴头巾的方式就像其他人戴头巾一样,你就会大受欢迎。
美国公民自由联盟(American Civil Liberties Union)最近代表一名密歇根州男子对底特律警方提起诉讼,这名男子于今年1月因面部识别软件产生的假阳性匹配而被捕。根据投诉,底特律警察局长承认,如果我们仅仅使用这项技术本身来识别某人,我会说96%的时间它会误认。
面部识别对黑人个人的不同影响已经成为全国范围内反对警察暴行和越权以及支持黑人社区的抗议活动的一部分。IBM在6月份退出了面部识别业务,首席执行官Arvind Krishna表示,人工智能系统的供应商和用户都有共同的责任,确保人工智能接受偏见测试,特别是在执法中使用,并对此类偏见测试进行审计和报告。几天后,亚马逊也宣布暂停警方使用其面部识别平台Rekognition一年。