英国的隐私权倡导者宣布胜诉,上诉法院今天裁定,该国警方使用面部识别技术存在根本缺陷,并违反了多项法律。
南威尔士警方从2017年开始试行使用自动面部识别技术,在足球比赛等数十项重大活动中公开部署一个名为AFR Locate的系统。警方将扫描结果与已知个人的观察名单进行比对,以确定哪些人被警方通缉,哪些人有针对他们的公开逮捕令,或者哪些人在某些其他方面是感兴趣的人。
2019年,加的夫居民埃德·布里奇斯(Ed Bridges)对警方提起诉讼,指控他在2017年和2018年进行面部扫描侵犯了自己的合法权利。尽管布里奇斯得到了英国民权组织Liberty的支持,但他在2019年输掉了诉讼,但上诉法院今天推翻了这一裁决,裁定南威尔士警方的面部识别项目是非法的。
法院裁定,目前有太多的自由裁量权留给了个别警察。法院补充说,目前还不清楚谁可以被列入观察名单,也不清楚是否有任何标准来确定AFR可以部署在哪里。法院补充说,警方没有充分调查正在使用的软件是否存在种族或性别偏见。
南威尔士警方在2018年发布的数据承认,在2017年的一次活动中,近2500场比赛中约有2300场比赛-大约92%-是误报。
布里奇斯在裁决后的一份书面声明中说,我很高兴法院已经同意面部识别显然威胁到了我们的权利。这项技术是一种侵入性和歧视性的大规模监控工具。我们都应该能够使用我们的公共场所,而不会受到压迫性的监视。
这项裁决并没有完全禁止在英国境内使用面部识别技术,但确实缩小了允许的范围,以及执法机构必须做什么才能符合人权法。
南威尔士警方的一位发言人表示:我相信这是一个我们可以配合的判决,并确认该机构不打算挑战这一裁决。
其他在英国境内部署面部识别技术的警察将必须达到今天裁决设定的标准。这包括伦敦的大都会警察,他们在今年早些时候部署了类似类型的系统。
Liberty称赞这场胜利是世界上第一次对面部识别技术的使用进行监管的法律挑战,但几乎可以肯定这不会是最后一次。在今年支持黑人社区和反对警察暴行的全国性民权抗议运动的背景下,美国警方对面部识别技术的使用受到了越来越严格的审查。
今年6月,美国公民自由联盟(ACLU)对底特律警方提出了正式投诉,但并未提起诉讼,此前警方根据面部ID系统中的假阳性匹配逮捕了错误的男子。底特律警察局长后来承认,这个系统在高达96%的时间里误认了嫌疑人。
近几个月来,制造面部识别系统的美国公司也试图与警方保持距离。IBM在6月份完全退出了这项业务;首席执行官Arvind Krishna当时表示,人工智能系统的供应商和用户都有共同的责任,确保人工智能接受偏见测试,特别是在执法中使用时,并对此类偏见测试进行审计和报告。几天后,亚马逊效仿,暂停警方使用其面部识别平台Rekognition一年。