IBM、微软和亚马逊停止向警方销售面部识别

反对警方不受监管地使用面部识别的运动正在加速，这加剧了许多道德问题。

最近发生的种族歧视和警察暴行的抗议活动导致IBM停止开发面部识别技术，微软和亚马逊暂停向执法部门出售面部识别技术。

虽然这是一个很好的起点，但由于公司不仅承认并解决了人脸识别系统中的已知缺陷和偏见，仍有很多工作要做。

特别是，需要来自公众的持续压力，以确保未来人脸识别技术的道德发展和监管。

在6月8日致国会议员的一封信中，IBM宣布反对包括面部识别在内的能够实现监控的技术。微软和亚马逊在面部识别方面也纷纷效仿，分别禁止警察使用，并暂停使用一年。其他公司，如Clearview AI，仍向警察部门提供这项技术。正如“华盛顿邮报”报道的那样，IBM决定放弃面部识别技术之前，已经进行了多年的辩论，特别是对2018年一项名为“性别阴影”的研究的回应，该研究发现，行业面部识别系统在深色皮肤的面孔上的错误率要高得多。

包括算法正义联盟(Algorithic Justice League)和美国公民自由联盟(ACLU)在内的民权和司法团体对IBM和亚马逊的这些行动表示赞赏：

算法正义联盟称赞这一决定是朝着促进公平和负责任的人工智能的公司方责任迈出的第一步。

亚马逊花了两年时间才走到这一步，但我们很高兴该公司终于认识到人脸识别对黑人和布朗社区以及更广泛的民权构成的危险。

面部识别技术能够从数字图像或视频帧中识别出一个人，几十年来一直在开发中。随着过去十年深度学习的重大进展，面部识别也取得了实质性进展。现代人工智能人脸识别系统依赖于大数据集的人脸有两个目的：1)训练可以提取人脸关键特征的神经网络，2)使用这些特征找到长相相似的人脸。收集如此庞大的数据集存在多重隐私和伦理问题，从导致有偏见的预测的有偏见的数据，到如何在没有征得同意的情况下收集这些数据，不一而足。

最近关于人脸识别的争议特别集中在执法部门的使用上。目前没有联邦法律，也几乎没有地方法律来规范警察和其他政府机构如何以及何时可以使用这种技术。这是尽管商业服务已经存在多年，并被一些警察部门使用。当这些有缺陷的系统被执法部门应用时，由于错误率较高，它们可能会使有色人种面临更高的风险。即使这些系统工作得很完美，它们仍然可以“很容易地被武器化，以对付社区来骚扰他们”。

Vox指出，这样的大公司关于面部识别的公开声明是向前迈出的一步，但也有人担心，像Clearview AI这样的较小公司可能会介入取代他们的位置。一些人也对科技公司最近的举动持怀疑态度，称其为公关噱头：

“为未来而战”(Fight For The Future)的副主任埃文·格里尔(Evan Greer)称亚马逊的声明是“一场公关噱头”。总部设在纽约的反监视法律组织“监视技术监督项目”称该公司的举动“太少、太迟”。它的负责人阿尔伯特·福克斯·卡恩(Albert Fox Cahn)在一份电子邮件声明中补充说，“亚马逊不应该只是在一年或十年内结束这种做法，它应该永远结束这种做法。”

福布斯报道，随着谴责和暂停，不同种类的技术之间有了足够的融合，人们不太确定到底放弃了什么。尽管如此，公众对人脸识别系统的关注是一个很好的起点，以确保这项技术在未来的伦理发展。

然后，这应该得到一套强有力的原则和道德标准的支持，该行业可以遵循这些原则和道德标准。其结果可能会为人工智能奠定更坚实的基础。

《连线》还认为，面部识别远未走到尽头，它同意Vox的观点，即许多规模较小的公司仍在填补这一空白-这些公司生产的技术，与最初导致IBM等人遭遇反弹的致命缺陷一样，都是致命缺陷的牺牲品。

一些人，如Jathan Sadowski(莫纳什大学新兴技术实验室的研究员)，认为抵制面部识别的“胜利”仅仅是象征性的，是一个更加努力的机会。

是的，我认为这与其说是赢得一场战斗，不如说是一个继续进攻、更加努力地推进、真正取得真正和持久胜利的机会。我们都进行了如此艰苦的战斗，只是为了获得足够的阵地进行反击。我终于开始觉得自己站稳了脚跟。

-Jathan Sadowski(@jathansadowski)2020年6月10日。

阿尔伯特·福克斯·卡恩将这一举措描述为一个里程碑，但“就像听到纵火犯同意停止向森林大火浇注汽油，却没有采取太多措施扑灭大火一样。”

我同意这是一个巨大的里程碑，但感觉就像听到一个纵火犯同意停止向森林大火浇注汽油，而没有采取太多措施扑灭大火，我希望许多人认为这是一个迹象，表明通过更多的压力可以取得更大的成就。

-阿尔伯特·福克斯·卡恩🔯(@foxcahn)2020年6月10日。

无论如何，这些举措，即使是亚马逊的一年禁令，也被视为朝着正确方向迈出的一步。

这简直令人难以置信！不间断的行动+时机=亚马逊终于让步了，并朝着正确的方向迈出了一步：对警方使用其面部识别技术Rekognition实施为期一年的暂停！邮箱：h/t@brendakleong https://t.co/W5fWEaHtpY。

-埃文·塞林格(@EvanSelinger)2020年6月10日

在IBM、微软和亚马逊宣布这一消息后，微软总裁再次呼吁联邦政府对面部识别技术进行监管：

史密斯说：“我们需要开始梳理这个问题，以便更好地理解它，超越允许或禁止的二元对话。”“想一想：监管它的正确方式是什么？”

对于IBM、微软和亚马逊在面部识别方面的举措，人们的热情好坏参半。

增加担忧的是存在其他兜售面部识别技术的公司，如Clearview AI。

虽然许多人认为这些声明是在漫长的道路上迈出的一小步，但他们确实认为这是朝着正确方向迈出的一步。

亚马逊(Amazon)和微软(Microsoft)从事的面部识别营销活动如今正受到抨击。虽然亚马逊的合同已经公之于众，但微软最近被发现早在2017年就向美国药品监督管理局(DEA)推销其面部识别技术。IBM、微软和亚马逊最近的声明是在打击肆无忌惮地使用面部识别技术方面向前迈出的有希望的一步，特别是在警察方面。有强烈的论点认为，由于在执法中公平地实施自动化技术存在固有的困难，应该完全禁止警察使用面部识别。此外，正如约翰·奥利弗(John Oliver)所指出的那样，面部识别的发展本身已经打开了一个潘多拉盒子，即使是硅谷的一些人也不敢碰。

亚马逊仍在与警方合作进行监控应用-据称Ring已经与美国1000多个警察部门合作。

即使微软和亚马逊决定在道德意义上走得和IBM一样远，事实仍然是，像Clearview AI和Banjo这样的公司继续提供面部识别服务。只要有人想继续出于任何目的使用面部识别，它的发展就会继续下去。

如果没有对此类技术的实质性联邦法规，任何一家(或三家)公司都不会对面部识别技术的开发和使用以及相关风险产生太大影响。

目前对人脸识别技术现有的和潜在的滥用的关注正在向行业领袖和政府施压，要求他们重新评估和重新想象人脸识别的未来。国会目前正在考虑一项警察改革法案，该法案限制执法中的人脸识别。许多人认为这项法案和最近科技公司的回应是有希望的起点。然而，需要更大的压力来确保公平和道德地使用人脸识别和其他具有重大社会影响的人工智能技术。

IBM、微软和亚马逊采取行动停止(或暂停)人脸识别技术的开发，特别是在执法部门，至少在足够的联邦法规到位之前，这些举措是确保这项技术合乎道德的使用的有希望的起点。尽管多年来的研究揭示了商业人脸识别系统的缺陷，但由于最近的抗议活动和关于种族歧视和警察暴行的全国性对话，公司直到现在才采取行动。这也表明，需要来自消费者、公民自由团体和广大公众的持续压力，以确保人脸识别技术的道德发展和监管取得进展。