被算法错误地指控
1月的一个周四下午，罗伯特·朱利安-博尔恰克·威廉姆斯(Robert Julian-Borchak Williams)在一家汽车供应公司的办公室里接到底特律警察局的电话，让他来警察局逮捕。他起初以为这是个恶作剧。
一小时后，当他在密歇根州法明顿山庄一个安静的小区里驶入他的车道时，一辆警车在后面停了下来，挡住了他的去路。两名警察下车，当着威廉姆斯的妻子和两个年幼的女儿的面，在他的前院草坪上给他戴上了手铐，他们都心烦意乱。警方没有说为什么要逮捕他，只给他看了一张纸，上面有他的照片和“重罪逮捕令”和“盗窃罪”的字样。
他的妻子梅丽莎(Melissa)问他要被带到哪里。“在谷歌上搜索吧，”她回忆起一名警官的回答。
警察开车把威廉姆斯先生送到拘留中心。他拍了面部照片，采集了指纹和DNA，并被关押了一夜。周五中午左右，两名侦探将他带到审讯室，并将三张纸脸朝下放在桌子上。
“你最后一次去西诺拉商店是什么时候？”据威廉姆斯回忆，其中一名侦探问道。Shinola是一家高档精品店，在底特律时尚的中城社区出售手表、自行车和皮具。威廉姆斯说，2014年这家店刚开张时，他和妻子就已经结账了。
侦探翻出了第一张纸。这是一段监控视频的静止图像，显示一名身材魁梧的男子，穿着黑色衣服，戴着圣路易斯红衣主教队(St.Louis Cardinals)的红色帽子，站在手表显示屏前。五只价值三千八百元的手表在商店被盗。
第二张纸是特写镜头。照片模糊不清，但显然不是威廉姆斯先生。他拿起这张照片，把它贴在脸上。
“不，这不是我，”威廉姆斯说。“你觉得所有的黑人看起来都一样吗？”
威廉姆斯先生知道他没有犯下有问题的罪行。据技术和法律专家称，当他坐在审讯室里时，他不可能知道的是，他的案件可能是已知的第一起美国人因面部识别算法中存在缺陷的匹配而被错误逮捕的案件。
一场关于执法中的种族主义的全国性辩论正在激烈进行。在全国各地，数百万人不仅抗议警察个人的行为，而且抗议用于监视社区和识别要起诉的人的系统中的偏见。
面部识别系统已经被警察部队使用了20多年。麻省理工学院和美国国家标准与技术研究所(National Institute of Standards and Technology，简称NIST)最近的研究发现，虽然该技术在白人男性身上效果相对较好，但在其他人口统计学上的结果就不那么准确了，部分原因是用于开发底层数据库的图像缺乏多样性。
去年，在底特律关于面部识别使用的公开听证会上，一名助理警察局长提出了担忧。詹姆斯·怀特(James White)说：“关于假阳性的问题，这绝对是事实，而且有很好的记录。”“因此，作为一名非裔美国男性，这让我感到担忧。”
本月，亚马逊、微软和IBM宣布，他们将停止或暂停他们的面部识别服务，以供执法。鉴于这些公司在该行业并不是大玩家，这些姿态在很大程度上是象征性的。警察部门使用的技术是由一些不是家喻户晓的公司提供的，如Vigilant Solutions、Cognitec、NEC、Rank One Computing和Clearview AI。
乔治城大学隐私与技术中心的律师克莱尔·加维(Clare Garvie)写过一篇关于政府使用面部识别的问题。她认为，低质量的搜索图像-比如来自颗粒状监控视频的静止图像-应该被禁止，目前使用的系统应该严格测试准确性和偏差。
“有平庸的算法，也有好的算法，执法部门应该只买好的，”加维说。
在谈到威廉姆斯在密歇根的经历时，她补充说：“我强烈怀疑这不是第一起错认某人而以他们没有犯下的罪行逮捕他们的案件。这只是我们第一次知道这件事。“
威廉姆斯的案件将有缺陷的技术与糟糕的警察工作结合在一起，说明面部识别可能会出错。
Shinola商店行窃发生在2018年10月。损失预防公司Mackinac Partners的调查员凯瑟琳·约翰斯顿(Katherine Johnston)根据他们的报告，查看了商店的监控视频，并向底特律警方发送了一份副本。
五个月后，也就是2019年3月，密歇根州警察的数字图像检查员詹妮弗·库尔森(Jennifer Coulson)向该州的面部识别数据库上传了一张“探测图像”-视频中的一张静止图像，显示了戴红衣主教帽的男子。该系统将绘制这名男子的面部地图，并在4900万张照片集中搜索类似的照片。
该州的技术由一家名为Dataworks Plus的公司以550万美元的价格提供。该公司总经理托德·帕斯托里尼(Todd Pastorini)表示，该公司于2000年在南卡罗来纳州成立，最初提供面部照片管理软件。2005年，该公司开始扩展该产品，增加了外部供应商开发的人脸识别工具。
当其中一个分包商开发出识别人脸的算法时，DataWorks试图通过使用它知道存在于系统中的个人的低质量图像进行搜索来判断其有效性。帕斯托里尼说，“我们在那里测试了很多垃圾。”他补充说，这些检查不是“科学的”--DataWorks并不正式衡量系统的准确性或偏差。
帕斯托里尼和密歇根州警方发言人表示，在密歇根州，州警察使用的DataWorks软件包含了日本科技巨头NEC和科罗拉多州的Rank One Computing开发的组件。2019年，这两家公司的算法都被纳入了一项针对100多个面部识别系统的联邦研究，研究发现它们存在偏见，错误识别非裔美国人和亚洲人的面孔的次数是白人面孔的10到100倍。
排名第一的首席执行官布伦丹·克莱尔(Brendan Klare)表示，该公司已经开发出一种新的算法，供NIST审查，该算法“缩小了不同人口群体之间的准确性差异”。
在州警察局的库尔森对探测图像进行搜索后，系统将提供NEC生成的一行结果和排名一的一行结果，以及置信度得分。威廉姆斯的驾照照片也在匹配之列。库尔森女士把它作为“调查线索报告”寄给了底特律警方。
“这份文件不是一个肯定的身份证明，”文件顶部用大写粗体字母表示。“这只是一项调查线索，并不是逮捕的合理理由。”
这是技术提供商和执法部门在为面部识别辩护时一直强调的：它应该只是案件中的线索，而不是确凿的证据。在逮捕威廉姆斯之前，调查人员可能会寻找其他证据证明他犯下了盗窃罪，比如目击者证词、他手机上的位置数据，或者他拥有嫌疑人穿的衣服的证据。
然而，根据底特律警方的报告，在这起案件中，调查人员只是将威廉姆斯的照片包括在他们创建的“6组照片组合”中，并向西诺拉的防止损失承包商约翰斯顿展示，她确认了他的身份。(约翰斯顿拒绝置评。)。
当向帕斯托里尼描述这一过程时，他大吃一惊。“这听起来很单薄，”他说。
排名一的克莱尔对约翰斯顿在这一过程中扮演的角色提出了批评。他说：“我不确定这是否使他们有资格成为目击者，或者他们的经历是否比其他可能在事后观看过同样视频的人更有分量。”NEC发言人约翰·怀斯(John Wise)说：“仅使用面部识别进行匹配并不是确定身份的一种手段。”
威廉姆斯坐在底特律警方审讯室的那个周五是他42岁生日的前一天。那天早上，他的妻子给他的老板发了一封电子邮件，说他将因为家庭紧急情况而缺席工作；这打破了他四年来完美出勤的记录。
威廉姆斯回忆说，在他把监控录像仍然放在脸上之后，两名侦探靠在椅子上互相看着。一名侦探看起来很懊恼，对他的搭档说：“我想是电脑搞错了。”
他们交出了第三张纸，这是威廉姆斯驾照旁边Shinola商店的另一张男子的照片。威廉姆斯先生再次指出，他们不是同一个人。
威廉姆斯先生问他是否有空去。“不幸的是没有，”一名侦探说。
威廉姆斯被拘留到那天晚上，也就是被捕30小时后，在交纳了1000美元的个人保释金后获释。他在雨中在外面等了30分钟，直到他的妻子能来接他。当他晚上10点回到家时，他5岁的女儿还醒着。她说，她在等他，因为他在被捕时说过，他很快就会回来。
从那以后，她开始玩“警察和强盗”的游戏，指控她的父亲偷东西，坚持要把他“锁在”客厅里。
威廉姆斯的家人联系了辩护律师，他们说，大多数辩护律师都认为威廉姆斯有罪，并报出了约7000美元的代理价格。威廉姆斯是一名房地产营销总监和美食博客作者，她也在密歇根美国公民自由联盟(American Civil Liberties Union Of Michigan)上发了推文，该组织立即对此表示了兴趣。
该组织的律师菲尔·梅奥(Phil Mayor)说，“我们一直在积极地试图围绕面部识别敲响警钟，既是在它奏效时对隐私的威胁，也是在它不起作用时对每个人的种族主义威胁。”“我们知道这些故事存在，但很难听到，因为人们通常不会意识到自己是糟糕的面部识别搜索的受害者。”
被捕两周后，威廉姆斯休了一天假，在韦恩县法院接受传讯。当案件被传唤时，检察官采取行动驳回起诉，但“没有偏见”，这意味着威廉姆斯稍后可能会再次被起诉。
检察官发言人玛丽亚·米勒(Maria Miller)表示，2018年商店行窃发生时，另一名目击者在商店，但没有被要求查看照片。她说，如果这个人将来进行身份识别，办公室将决定是否提出指控。
底特律警方发言人妮可·柯克伍德(Nicole Kirkwood)表示，目前，警方“接受检察官驳回此案的决定”。她还表示，该部门在2019年7月更新了面部识别政策，以便只用于调查暴力犯罪。
她在另一份声明中说，该部门“不会仅仅基于面部识别来进行逮捕。”调查员审阅了视频，采访了目击者，进行了拍照排列。“。
周三，密歇根州公民自由联盟向该市提出申诉，要求彻底驳回此案，道歉，并从底特律的犯罪数据库中删除威廉姆斯的信息。
市长在起诉书中写道，底特律警察局“应该停止使用面部识别技术作为调查工具”，并补充说，“因为威廉姆斯案的事实既证明了这项技术存在缺陷，也证明了DPD的调查人员没有能力使用这类技术。”
威廉姆斯的律师维多利亚·伯顿-哈里斯(Victoria Burton-Harris)说，她的当事人“很幸运”，尽管他经历了这么多。
“他还活着，”伯顿-哈里斯女士说。“他是个非常高大的人。我的经验是，作为一名辩护律师，当警察与非常高大的人，非常庞大的黑人男子互动时，他们立即出于恐惧而采取行动。他们不知道如何让局势降级。“。
威廉姆斯先生和他的妻子还没有告诉他们的邻居发生了什么。他们想知道是否需要让女儿接受治疗。威廉姆斯先生的老板建议他不要告诉工作中的任何人。
“我妈妈不知道这件事。这不是我引以为豪的事情，“威廉姆斯说。“这太丢脸了。”
自那以后，他已经弄清楚了商店行窃发生的当晚他在做什么。他下班开车回家，并在他的私人Instagram上发布了一段视频，因为他喜欢的一首歌出现在1983年的梅兹(Maze)和弗兰基·贝弗利(Frankie Beverly)的“我们是一个人”(We Are One)中。歌词是这样写的：
