当警方像对待魔术一样对待软件时

本文是On Tech时事通讯的一部分。您可以在这里报名，平日领取。

很多技术都很愚蠢，但我们认为它很聪明。我的同事克什米尔·希尔展示了这个错误造成的人员伤亡。

她的文章详细描述了密歇根州黑人罗伯特·朱利安-博尔恰克·威廉姆斯(Robert Julian-Borchak Williams)是如何被指控在商店行窃的，这是基于有缺陷的警方工作，这些工作依赖于有缺陷的面部识别技术。该软件在可能与监控图像中的男子匹配的情况下显示了威廉姆斯的驾照照片，导致威廉姆斯在一项他没有犯下的罪行中被捕。

(作为对卡什文章的回应，检察官为威廉姆斯身上发生的事情道歉，并表示他的案件可能会被删除。)。

卡什和我谈到了这是如何发生的，以及这次逮捕表明了面部识别技术的局限性和准确性。

卡什：警方应该只使用面部识别作为调查线索。但取而代之的是，人们将面部识别视为一种魔术。这就是为什么你会遇到这样一个案例，有人因为有缺陷的软件和不充分的警察工作而被捕。

绝对一点儿没错。证人证词也非常令人不安。这一直是许多面部识别技术的卖点。

这是一个问题。一项关于面部识别算法的联邦研究发现，这些算法是有偏见的，而且错误识别有色人种的比率比白人更高。这项研究包括了导致威廉姆斯被捕的图像搜索中使用的两种算法。

有时算法是好的，有时是坏的，并不总是有很好的方法来区分。而且通常不需要政策制定者、政府或执法部门对这项技术进行审查。

销售面部识别软件的公司表示，它并没有给出完美的“匹配”。它给出了数据库中的面部图像与您搜索的面部图像匹配的可能性的分数。科技公司表示，这些都不是逮捕的可能理由。(至少，他们是这样和“纽约时报”的一名记者谈论这件事的。)。

但在地面上，警官们在最有可能匹配的照片旁边看到了一名嫌疑人的图像，这似乎是正确的答案。我已经看到面部识别在一些高质量的特写图像上工作得很好。但通常情况下，警察有模糊的视频或素描，而电脑在这些情况下不能很好地工作。

感觉好像我们知道计算机是有缺陷的，但我们仍然相信它们吐出的答案？

我写过堪萨斯州一家农场的老板，由于根据互联网地址绘制人们位置的软件出现故障，他受到执法部门和随机访客的骚扰。人们错误地认为地图软件是完美无缺的。面部识别也有同样的问题。人们不会深入研究这项技术，他们也不会阅读有关不准确的小字。

科技公司不应该说他们想要帮助对抗根深蒂固的全球问题，如气候变化和种族不公正，而不应该认真审视他们的产品是如何让事情变得更糟的。

这就是“纽约时报”科技专栏作家凯文·鲁斯(Kevin Roose)在谈到Facebook、谷歌和其他互联网公司时提出的观点。最近几周，这些公司已经宣布支持“黑人生命也是命”(Black Lives Matter)运动，并宣布了捐款、调整员工队伍和其他支持措施。

这些都是很好的步骤。但正如凯文在“每日新闻”播客上所写和讨论的那样，这些公司并没有解决他们在互联网上流连的方式，这些方式是为了奖励那些破坏“黑人生活也是命”(Black Lives Matter)等运动的夸张观点。他们也没有谈到他们对突破界限的网络行为的奖励是如何导致种族分裂的。

凯文说，科技公司的行动就像快餐连锁店联合起来对抗肥胖一样，“通过向素食合作社捐款，而不是通过降低他们的卡路里含量。”

我对亚马逊设立一个20亿美元的基金，以支持寻求应对气候变化的技术也有类似的感受。此前，亚马逊曾宣布承诺减少自己的碳排放，例如，将其包裹递送车队转向电动汽车。再说一遍，太棒了。但。

目前还不清楚亚马逊的努力是否能完全抵消快速递送包裹，或在全国各地运送瓶装洗衣粉，或让人们毫不犹豫地退货的碳排放。

简而言之，亚马逊的碳排放承诺可能是在问题的边缘蚕食，以避免考虑该公司是如何以一种对环境有害的方式塑造我们的购物行为的。

巨大的结构性变化令人难以置信地困难-对公司和我们来说都是如此。我并不是说大型科技公司一定有义务与种族主义或环境破坏作斗争。但这些公司表示，这就是他们想要做的事情。如果不从根本上改变他们的运作方式，他们可能无法做出重大改变。

太棒了！现在做得更多：据我的同事戴和林(Dai Wakabayashi)报道，谷歌表示，18个月后，它将开始自动删除人们的网络和应用程序活动日志，以及我们所在位置的数据。这一变化只适用于新账户，但对谷歌拥有的关于我们的信息储备进行一些限制是健康的一步。这里还有一个想法：首先，少收集关于我们的数据。

我的同事大卫·麦凯布(David McCabe)和塞西莉亚·康(Cecilia Kang)写道，反托拉斯者正在努力打击谷歌：司法部长威廉·巴尔(William Barr)不同寻常地参与了司法部对谷歌是否滥用权力的调查。(以下是我对谷歌正在发生的事情的解释。)。巴尔的兴趣表明，政府正在认真对待对大型科技公司权力的调查，但也有可能受到批评，即调查更多的是出于政治动机，而不是法律动机。

向风车倾斜，但是…。据“华尔街日报”报道，特朗普总统的竞选团队正在考虑吸引更多的支持者使用自己的智能手机应用程序或Facebook和Twitter等大型互联网网站的其他替代方案。特朗普或他的竞选团队不可能抛弃大型互联网网站，但他们担心社交媒体政策限制了一些煽动性的帖子。他们和包括新闻媒体在内的许多人和组织一样担心，希望自己减少对大型互联网聚集地的依赖，以引起人们的注意。

在音乐厅观看巴塞罗那的这场音乐表演，室内植物挤满了座位，这是一种诡异、甜蜜和有趣的感觉。(这些植物将捐赠给医护人员。)。

我们想听听你的意见。告诉我们你对这份时事通讯的看法，以及你还想让我们探索什么。您可以通过[email protected]联系我们。