新奥尔良市议会禁止面部识别，预测性警务和其他

新奥尔良市议会周四通过了一项新法律，对城市监视系统的某些部分进行规范，并全面禁止特定的监视技术，包括面部识别软件和预测性警务。该条例在过去一年中被一再推迟，在《透镜》杂志报道说，尽管多年来被否认，NOPD仍在使用面部识别软件，但该条例通过了一个月。

该委员会在一年中的大部分时间里一直在努力制定该条例。在那段时间里，在议员Jason Williams和当地基层倡导组织Eye on Surveillance的合作下，它的内容比最初起草的内容大为减少。最初的条例将为城市庞大的监视系统的每个部分创建全面的审批流程，监督协议和定期报告要求。这些已从最终版本中删除。

即使如此，周四通过的该法令仍将新奥尔良列入美国城市的简短清单，以全面禁止使用面部识别，事实证明，这种面部识别对黑人，棕色人和原住民的识别率远高于白人。 。该法令在《城市法规》中创建了名为“监视技术和数据保护”的新章节，为将来的监视法规奠定了基础。

例如，该条例首次为“监视技术”建立了正式定义。

该组织的一份声明说：“监视之眼为新奥尔良人民的这一重大胜利感到自豪，并期待与邻居和居民一起探索基于证据的公共安全选择，”该组织说。 “我们还将继续争取市政府采取进一步行动，以解决我们最终提案中未包括的原始提案中的内容。”

通过的该法令彻底禁止了四项技术：面部识别，特征识别和跟踪软件，预测性警务和蜂窝站点模拟器。最终废除了原条例中禁止牌照阅读器的禁令。

“与往常一样，NOPD将由新奥尔良市的民选领导人设定的参数范围内工作，说：”从NOPD发言人加里Scheets的声明。

法规将特征跟踪软件定义为“能够根据特征（例如颜色，尺寸，形状，年龄，八，速度，路径，衣服，配件，车辆制造或型号，或任何其他可用于跟踪目的的特征，包括BriefCam和类似软件。”

Briefcam是New Orleans使用多年的软件，它可以几乎即时搜索数千小时的素材，以查找符合特定描述的人员和车辆。该市声称它已在2019年末停止使用该软件。

预测性警务被定义为“在执法中使用预测性分析软件来预测有关犯罪的信息或趋势，包括但不限于犯罪者，受害者，未来犯罪的地点或频率。例如，它不包括用于信息收集或显示历史犯罪统计数据的软件。”

单击提交，即表示您同意与The Lens和我们的电子邮件服务Mailchimp共享您的电子邮件地址，以接收来自我们的市场营销，更新和其他电子邮件。使用这些电子邮件中的退订链接可以随时退出。

评论家认为，这些年来，该市已经安装了数种软件，完全符合这种描述。一个引人注目的案例是来自美国中央情报局资助的硅谷公司Palantir的软件。 Palantir免费为该城市提供了一个软件，该软件声称能够预测哪些新奥尔良居民最容易犯罪。

Palantir软件于2018年离开城市。但是其他城市拥有的软件和程序，包括摩托罗拉CommandCentral Predictive和市长LaToya Cantrell的高风险居民ID程序，也具有类似的功能。目前尚不清楚这两个标准是否都属于该法令的定义，或者是否有其他软件可能违反新法律。

蜂窝基站模拟器或黄貂鱼是伪装成蜂窝塔的设备，可以拦截和挖掘该地区所有电话的数据。这个城市在今年夏天宣称它没有使用该技术。

面部识别是周四讨论的主要话题，这可能是由于最近的消息表明，NOPD通过与FBI和路易斯安那州警察的合作来获得面部识别，尽管该市多年来一直拒绝使用该技术。

就在本周，NOPD响应路易斯安那州ACLU的公开记录要求，发布了数十页与面部识别有关的电子邮件。该市最初是在11月初回应要求的，当时他说：“警察局未使用面部识别软件。”

但是随后，在得知该市实际上确实可以使用该技术后，ACLU重新提交了其请求，该技术不是靠自己而是通过州和联邦合作伙伴。这次，该市表示，该请求过于繁琐，难以编译。但是，它确实发布了一些有限的记录，显示NOPD侦探向该州发出请求以识别具有面部识别的人。

电子邮件显示了用于NOPD侦探的正式系统，该系统可以向州发送请求以利用面部识别和其他监视技术。

周四，NOPD警长肖恩·弗格森（Shaun Ferguson）重申，该部门目前尚无使用面部识别的任何政策，但该政策正在进行中。他还表示，面部识别新闻也使他措手不及。

他说：“我什至不知道我们什至可以使用它，所以我们在任何时候都没有试图隐藏它。” “从那以后，我得知我们部门对于使用此工具没有任何政策。”

弗格森说，面部识别只是“工具箱中的一种工具”，并未被用作逮捕人的唯一理由。他将其比作警察向当地媒体或犯罪阻止者发布照片的时候，认为在目击证人的账户中发现面部识别软件存在相同程度的错误和偏见。

“我们曾经遇到过这样的情况，即个人，即我们的公民，观看过照片，例如已放置在媒体上的静态照片，或者通过犯罪阻止者进行了传播，结果发现他们确定了与该物品绝对无关的个人。犯罪。因此，我真的看不出使用此特定工具的区别。”

弗格森（Ferguson）和一些理事会成员说，他们希望推迟该法令，以便让NOPD有时间共同制定部门的面部识别政策。但是，包括威廉姆斯和女议员海伦娜·莫雷诺（Helena Moreno）在内的其他人则退缩说，如果有的话，应该暂时禁止使用该技术，直到他们能够制定一项全面的政策，或者直到该技术被证明更加可靠和减少偏见为止。

Eye on Surveillance的组织者Marvin Arnold认为，面部识别存在的内在问题比一年内可以解决的简单技术错误更根深蒂固。

“如果您查看政府消息来源，独立的智囊团，我们知道该技术不可靠且行不通。这不是深奥的技术原因。造成这些技术的根深蒂固的系统性不平等，”他说。 “那么，为什么人脸识别无法识别肤色较浅的人和肤色较浅的人？好吧，如果所有开发该软件的计算机程序员都是白皮肤的，他们将选择大量浅皮肤的数据。只要存在种族主义，这些微妙的实施细节就永远无法解决。因此，谈论等待直到解决此问题才是要点。”

他还指出，关注重点不仅应该放在技术缺陷上，还应该放在城市缺乏透明度和责任感上。

阿诺德说：“今天的讨论应该是，多年来，NOPD对我们撒谎了。” “几个月前，这座城市向议会撒谎。我们一直感觉没有面部识别，这是一个谎言。这就是故事。”

他说：“目前，我们正在谈论在我们的私人公民上使用有缺陷的技术，据了解，该技术已在新奥尔良市使用，并且已对公民使用。” “当所有细节都被发现时，它凸显了这一点，因为我们理事会没有设置护栏，因此没有检查。没有什么可以控制它的使用方式或如何通知我们的使用方式。”

该法令以6-1票获得通过，议员贾里德·布罗塞特（Jared Brossett）是唯一反对声音。该法律将于本月底生效。如何执行法律，以及它将如何影响当前的城市运营，还有待观察。但是似乎法律应该立即停止NOPD从州和联邦伙伴那里获得面部识别服务的做法。

关于这四项被禁止的技术，该法令说，任何城市官员或实​​体都不能“获取，保留，拥有，使用，销售或使用任何被禁止的监视技术或从被禁止的监视技术中获得的信息。”

但是，在该法令的稍后部分，它说该城市仍然可以使用从面部识别或特征跟踪软件获得的证据，“只要这些证据不是由该城市或任何城市提供，不为该城市所知，也不是应其请求而生成的官方。”

该法令还规定，任何使用监视技术的部门都必须指定“日期保护官”，以确保遵守新规则。

该法令的某些部分完全未经测试。在有关“自动决策系统”和人工智能的一节中，他说：“只要决策是基于个人的身份，而不是根据一般人群的模式（例如空中交通管制）做出的，选择退出自动决策。”

目前尚不清楚该市正在做出哪种自动化决策或基于人工智能的决策。还不清楚一个人会如何尝试退出他们。

尽管该法规不如最初的法规全面，并且仍存在一些执法问题，但威廉姆斯称赞该法规是迈向该市监管已存在并持续发展的监视系统的第一步

“就在这里，”威廉姆斯说。 “技术在法律指导技术之前就已经存在。 而且我认为社区进入这个位置非常危险。” 镜头旨在吸引新奥尔良和墨西哥湾沿岸的居民并赋予他们权力。 我们提供必要的信息和分析，以倡导更负责任和公正的治理。 我们依靠您的支持。 任何数量的慷慨礼物都会帮助我们继续为您提供这项服务。 立即捐款