IBM结束所有面部识别工作,首席执行官呼吁存在偏见和不平等

2020-06-09 09:31:10

在CNBC报道的一封信中,Krishna解释了该公司退出有争议的面部识别服务业务的原因。这封信是为了支持今天推出的“警察正义法案”。

IBM坚决反对也不会容忍使用任何技术,包括其他供应商提供的面部识别技术,用于大规模监控、种族定性、侵犯基本人权和自由或任何不符合我们的价值观和信任和透明原则的目的。我们认为,现在是开始全国对话的时候了,讨论国内执法机构是否应该以及如何使用面部识别技术。

这种谨慎地开发和部署这项技术的方法并不是一种新的方法:IBM去年通过一个新的面部数据数据库强调了这一点,该数据库比当时任何可用的数据库都更加多样化。毕竟,像任何程序一样,这些系统的好坏取决于您输入的信息。

然而,面部识别似乎并没有让公司赚到多少钱,如果有的话。公平地说,这项技术实际上还处于初级阶段,像IBM这样的企业供应商几乎没有什么应用程序是有意义的。亚马逊备受争议的Rekognition服务虽然经过了相当多的执法机构的测试,但在该领域并没有得到很好的考虑。试图与一款同样勉强可以使用的产品竞争,对IBM不会有太大好处。

Krishna的信还说,“Al系统的供应商和用户都有责任确保Al接受偏差测试,特别是在执法中使用时,并对此类偏差测试进行审计和报告。”这在某种程度上是对该领域的那些人,特别是亚马逊(Amazon)的临别机会,他们曾因面部识别系统的质量低劣而受到指责,但并未停止营销这些系统。

克里希纳撰写的这项支持的法案在参众两院有数十个共同发起人,并解决了警察部门和他们监管的人面临的各种问题。除其他外,它扩大了对随身相机的要求,但限制了与之相关的面部识别的使用。它将为硬件提供拨款,但前提是它们必须在公开开发和列出的协议下使用。

美国公民自由联盟(ACLU)在就该法案发表的一份声明中,似乎同意其做法:“我们需要投资于有助于消除数字鸿沟的技术,而不是创建加剧警察滥用和结构性种族主义的监控基础设施的技术。”