软件可以帮助改革警务--只要警察工会愿意

作为一个目睹了许多可怕的、往往是致命的警察遭遇的人，里克·史密斯对如何修复美国的执法部门有一些想法。在过去的十年里，这些想法已经把他的公司Axon变成了一个警察巨头。以泰瑟枪为例，它是最畅销的能源武器，旨在应对致命的遭遇，正如史密斯去年在他的书“杀戮的结束”(The End Of Killing)中所描述的那样。“枪支暴力不是人们认为的技术问题，”他说。“他们认为枪支管制或其他一些政治是解决这一问题的方法。我们认为，让我们让子弹过时吧。“。

随身相机是解决更多大问题的另一个办法。在与哥哥一起创立公司15年后，史密斯开始推销类似GoPro的设备，以此来记录原本看不见的遭遇，或者补充-或平衡-不断增长的公民镜头堆积如山，从罗德尼·金(Rodney King)的录像带到奥尔顿·斯特林(Alton Sterling)的Facebook Live流。虽然随身相机对警察的影响仍然不明确，但在Axon相机赠送等事情的鼓励下，全国各地的立法者已经在这些设备和证据管理软件上花费了数百万美元。在这个过程中，史密斯的公司，三年前从泰瑟更名，已经开始看起来更像一家科技公司，利润和薪酬方案相匹配。

“听着，我们是一家营利性企业，”史密斯说，“但如果我们解决了真正的大问题，我相信我们可以提出有意义的财务模式。”

毫不奇怪，技术乐观主义者史密斯认为，偏见和过度使用武力等真正重大的警察问题的答案在于云。他说，在人工智能的帮助下，软件可以将随身相机视频转化为对改革有用的数据。人工智能可以在事后搜索警官的视频(以发现种族诽谤或过度使用武力)，识别可教导的事件(比如体育教练使用的比赛录像带)，并建立早期预警系统来标记坏警察，例如将膝盖压在死气沉沉的乔治·弗洛伊德(George Floyd)身上的警官。

史密斯说：“如果你认为最终我们想要改变警察行为，那么我们有所有这些关于警察事件的视频，这似乎是一个非常有价值的资源。”“机构如何才能将这些视频投入使用呢？”

一种解决方案是实况摄像。Axon的一款新产品Response将实时摄像头数据与911和警察调度中心的信息集成在一起，完成了一套旨在将警察部门的工作流程数字化的软件套件。(位于亚利桑那州马里科帕的部门是Axon使用该平台的第一个客户。)。例如，这可以允许精神健康专业人员远程“呼叫”警察的遭遇，并帮助化解潜在的致命遭遇。该公司还提供了一套VR培训视频，重点是在精神危机期间与人接触。

识别潜在滥用行为的另一个想法是自动转录和其他人工智能工具。Axon的新视频播放器可以在几分钟内从人体摄像头数小时的视频中生成文本。最终，史密斯希望通过自动撰写警察报告来节省警察的时间。但与此同时，该软件可以提供一种超人的力量：能够搜索警方视频中的特定事件-或事件类型。

在上个月提交的一份专利申请中，Axon的工程师描述说，搜索不仅是单词和地点，还包括衣服、武器、建筑物和其他物体。AI还可以标记镜头以使得能够搜索诸如“音频的声音或单词的特征”之类的东西，包括“单词或声音的音量(例如，强度)、音调(例如，威胁、威胁、帮助、友善)、频率范围或情绪(例如，愤怒、兴高采烈)”。

使用机器扫描视频中的可疑语言、物体或行为并不是一件全新的事情；使用固定的监控摄像头和大量的YouTube和Facebook视频已经可以做到这一点。但是使用人工智能来标记人体摄像头的镜头，无论是在事后还是实时，都将赋予警方戏剧性的新的监控权力。撇开道德或法律问题不谈，解释随身相机的镜头对人工智能来说可能是一件沉重的事情。

计算机视觉研究员、社交视频应用Trash的联合创始人吉纳维芙·帕特森(Genevieve Patterson)表示：“取代人类生成的报告的水平、复杂性和深度是非常困难的。”“对人们来说，最困难和可怕的是，在执法背景下，这可能事关生死。”

史密斯说，关键字搜索功能尚未激活。去年，他宣布Axon正在推动暂停人脸识别的使用，理由是其人工智能伦理顾问委员会的担忧。(亚马逊也曾悄悄炒作随身相机的人脸识别，今年6月暂停了自己软件的销售，微软(Microsoft)和IBM也停止了这项技术的使用。)。取而代之的是，Axon专注于转录镜头和读取车牌的软件。

史密斯还面临着一个更低技术含量的挑战：让他的想法不仅被经常不妥协的警察工会接受，而且被那些警察服务的社区接受。当然，现在这些社区中的许多人并不是在呼吁为他们的警察提供更多的技术，而是要求进行深入的改革，如果不是大幅削减预算的话。

纽约大学(NYU)负责警务项目的宪法学教授、Axon伦理委员会成员巴里·弗里德曼(Barry Friedman)表示：“参与警务工作的科技公司有责任考虑他们的产品如何帮助提高问责性。”“我们一直鼓励Axon将他们的客户视为社区，而不仅仅是一个监管机构。”

史密斯最近在亚利桑那州斯科茨代尔的家中与我谈到了这一想法，以及他认为科技在危机时刻如何帮助警察-他认为这种危机“更有可能真正推动持久的变革”。为清楚起见，本采访经过编辑和浓缩。

快速公司：你们的摄像机见证了无数的警察暴力事件，即使公众经常看不到录像。与此同时，要求撤资警察的呼声越来越高，这可能会影响你的业务，此外，大流行的影响还会给公共预算带来压力。推动警察改革如何改变了您的做法？

里克·史密斯：我们已经看到有人呼吁取消对警察的资助，但我认为这真的转化为要求改革警察的呼声。最终，人们认识到改革将需要技术工具。所以我们小心翼翼地说，“听着，技术不会为我们解决所有这些问题。”然而，没有技术，我们不能很好地解决问题。我们需要信息系统来跟踪我们认为重要的关键指标。最终，我们相信它正在改变我们路线图上的一些东西。

FC：记录警察虐待行为的视频大多来自民用视频，而不是警方的摄像头。乔治·弗洛伊德事件的随身摄像机视频还没有向公众公布，尽管最近一段视频片段泄露给了一家英国小报。我想知道你如何看待随身相机，特别是在警察改革中扮演的角色。

RS：我尽量保持公正，我猜这可能是因为我是做随身相机生意的，但我认为随身相机(在乔治·弗洛伊德的例子中)起到了作用。如果那里没有随身摄像头，我认为可能会发生的情况是，是的，你会从手机上获得一些视频，但这只是事件的几个片段，而且这些视频是在事情已经相当糟糕之后才开始的。随身相机带来了整个活动的多名警官的观点。

(明尼阿波利斯)公园警察确实公布了他们的随身摄像机镜头(显示了一些最初的远距离相遇)。我认为这足够让你有机会看到事件是如何以一种不间断的方式展开的，如果没有这一点，我认为可能会有这样的反应：“嗯，你知道，就在这些其他视频之前，乔治·弗洛伊德正在与警方暴力搏斗”或类似的反应。我认为这些视频在某种程度上取消了对所发生事件的任何重新定位。或者更丰富多彩地说，你可能会说真相无处藏身。

然后发生了什么？在几个小时内，全国各地的警察局长都站出来说，“这是错误的，他们谋杀了乔治·弗洛伊德，事情必须改变。”我从没见过这样的事。我从来没有见过警察，警察领导，站出来互相批评。

FC：除了摄像机和泰瑟枪，你认为Axon还能如何帮助警方解决种族偏见和虐待行为？

RS：当你考虑透明和负责任的警务时，政策扮演着重要的角色。但我们认为随身相机是一项可以产生巨大影响的技术。因此，当我们思考种族主义和种族平等时，我们现在正在挑战自己，说，好的，我们如何让这成为一个技术问题？我们如何使用关键字搜索来使带有种族称谓的视频浮出水面？

我们如何引入新的虚拟现实培训，以推动官员干预，或者在哪里我们可以以一种更有影响力的方式进行种族偏见培训？这样，当受试者摘下耳机时，我们希望他们感到身体不适。我们向他们展示的是，我们需要选择一些情感上强大的东西，而不仅仅是一个复选框的理由。

FC：Axon一直在为警官的同理心制作VR培训视频，专注于警察对处于精神困境中的人做出反应的情况，这是一种过于频繁、往往是致命的遭遇。现在，Oculus耳机如何适用于改进警察培训？

RS：从乔治·弗洛伊德事件中走出来，其中一个需要改进的大领域是官员的干预。我们能进入一个没有咄咄逼人的警察越界的世界吗？大概不会吧。然而，我们能否到达这样一个世界，当一名警官明目张胆地越界时，其他四名警官都不会站在那里？

现在，这将需要一些真正的工作。但是因为乔治·弗洛伊德，很多人都接受了这一点，我和警察局长们交谈时，他们说，是的，我们绝对需要更好地打破警察文化的这一部分，让警察，无论多么初级，都有一种安全干预的方式。我们需要给他们这些技能和机制来做到这一点，无论越界的人职位有多高。

我们正在做两个虚拟现实场景，就是关于这个警官干预的问题。我们将让警察进入虚拟现实，不是在乔治·弗洛伊德事件中，而是在警察开始越界的其他情况下，然后我们将带他们进入虚拟现实，并对他们进行有效的培训，这样你就需要进行干预。因为这不仅仅关系到一般的公共安全：如果你做得不好，你的职业可能会受到威胁。

FC：您提到了在车载摄像机视频中搜索关键字的功能。这对警方的责任意味着什么？

RS：最近在北卡罗来纳州发生了一个案例，随机的视频回顾发现两名警察坐在一辆车里进行了一次非常带有种族色彩的对话，关于一场即将到来的种族战争，他们准备出去杀人-基本上他们使用了N字和其他种族主义诽谤。警官们被解雇了，但那是一个纯粹的运气，警方发现了这段视频。

我们有一个名为Performance的工具，可以帮助警察部门进行随机的视频选择和审查。但我们现在正在与警察机构讨论的一件事是，我们如何使用人工智能来提高你的效率，而不仅仅是挑选随机的视频？对于随机的视频，你很少发现出问题的地方。有了这个新的转录产品，我们现在可以进行单词搜索来帮助视频浮出水面。

六个月前，如果我提到这个概念，几乎每个与我交谈过的机构都会说-或者确实会说-“不，我们只想要随机的视频审查，因为这是工会和其他政党可以接受的。”但现在我们听到的是警察局长们非常不同的论调：“不，我们实际上需要更好的工具，所以对于那些视频，我们需要找到它们并对其进行审查。我们不能让他们偷偷地坐在我们的证据档案里。“。

我们还没有推出视频搜索工具来使用关键字在视频中进行搜索，但我们正在就此进行积极的讨论，作为我们如何使用这些人工智能工具的潜在下一步。

FC：如你所知，人脸识别警察摄像头对许多社区来说是不受欢迎的。我想有些警官也会觉得受到这种人工智能的监视更多。你如何跨越这一障碍呢？

RS：我们可以使用各种技术方法，或者改变业务流程。最简单的一个问题是--我现在正在与警察局长们就此进行多次通话--我们可以在警察文化和政策方面做出哪些改变，让个别警察可以提名困难的事件进行指导和审查？

从历史上看，这真的不会发生，因为警察有一种非常僵化的、以纪律为重点的文化。如果你是一名街上的警察-特别是现在世界对警察的态度相当消极-如果你处于困难的境地，你在世界上最不希望的事情就是让这起事件进入某种审查程序。因为最终只会有不好的事情发生在你身上：你可能会失去工资，你可能会有几天没有工资的假期。你可能会被炒鱿鱼。

所以，当我和警察领导交谈时，一个有趣的想法是，在职业体育运动中，运动员们严格审查他们的比赛录像带，因为他们试图在下一场比赛中提高自己的表现。这不是执法部门在文化上会发生的事情。但这些事情发生在几个不同的地方。笑点是，为了改善治安，我们可能不需要对警察采取更多的惩罚性措施；我们实际上需要找到激励(警察提名自己进行)积极自我审查的方法。

我们从我们的实际客户那里听到的是，现在，他们不会使用软件来做这件事，因为那里的政策不会与之兼容。但我的下一个电话是与一家机构打来的，我们正在与该机构讨论尝试一下这一点。我们能做的是，我现在正在挑战我们的团队去构建软件系统来实现这种审查。

FC：Axon已经从武器制造商转变为一家本质上是一家科技公司。你已经收购了几家机器视觉初创公司，并聘请了几名亚马逊Alexa的前高层来运营软件和人工智能。Axon也是首批宣布暂停人脸识别的上市公司之一。人工智能在未来的执法中扮演着什么角色？

RS：人工智能的各个方面当然很重要，但有太多容易引起注意的用户界面问题，我们认为可以产生很大的不同。我们不想在外面滑雪板。我确实认为，有了我们的人工智能伦理委员会，我认为我们对人工智能出错的风险有了很多看法。我们应该小心使用它。首先，在我们不会造成伤害的地方。所以像做事后转录这样的事情，只要音频视频记录得到保存，风险就相当低。

我要说的是，现在在硅谷的世界里，我们并没有站在推动实时人工智能的前沿。我们正在解决行人用户界面问题，这些问题对我们的客户来说仍然很有影响力。我们正在建立人工智能系统，主要专注于自动化事件后的效率问题，这些问题非常有价值，对我们的客户有明确的投资回报，而不是试图进行带来一些真正风险的实时人工智能。

承担这些风险的回报还没有到来，而我们可能只需先修复用户与技术交互的方式，就可以产生更大的影响。我们认为，这为我们建立了一个可以开始实时使用更多人工智能的世界。

FC：很少有其他公司有可能获得如此多关于警察工作方式的数据。它涉及到另一个在警务方面走在前列的问题，特别是关于随身摄像头：谁应该控制这段视频，谁可以看到它？

拉尔夫-舒马赫：首先也是最重要的，我们不应该控制那个镜头。我们意识到我们是一家营利性公司，我们的角色是构建代表我们的代理客户管理这些数据的系统。到今天为止，按照这种构建方式，警察机构内部有系统管理员，他们基本上负责管理有关数据管理的相关政策。

我可以设想，有一天，城市可能最终会决定在城市内设立其他机构，这些机构可能会对如何管理这些数据拥有一定的权威。归根结底，警察部门仍然听从市长、城市管理人员和市议会的意见。

我们现在正在积极研究的一件事是：我们有一个新的武力报告系统，叫做Axon标准，这基本上是一个机构可以用来记录他们的武力事件的系统。它使得将视频和照片以及泰瑟枪日志都包含到一个系统中变得非常容易。

我们正在建立一个真正优化的系统，用于收集所有这些信息，并将其通过一个工作流程进行传输，其中包括让可能在公民监督委员会中的关键审查员获得访问权限。作为这项工作的一部分，我们还在研究如何能够帮助机构以某种不确定的方式共享他们的数据，用于学术研究。由于显而易见的原因，学者们真的很难很好地访问这些数据，因为你有所有的隐私问题。

FC：对于像Axon这样的公司-公平地说，没有一家公司能像它这样-在未来的警察改革和警务工作中扮演什么正确的角色？

我认为我们处于这个独特的位置，因为我们既不是警察也不是一个机构-我们是与警察合作很多的技术专家。但这让我们有能力在某些方面成为思想伙伴。如果你现在是警察局长，你只是想活下去，度过这次难关。真的很难走出家门，客观地评价你的公司。所以，举个例子，我们最近做的一件事，我们设立了一个新的职位，社区影响副总裁雷吉娜·霍洛韦(Regina Holloway)，来自芝加哥警察改革社区的里贾娜·霍洛韦(Regina Holloway)[一名律师和大西洋种族平等研究员]。基本上，她的工作是帮助我们更好地与社区成员打交道。

拉斐尔-舒马赫：我们一直都在和警察交谈。那是我们的工作。当我们成立我们的人工智能伦理委员会时，他们的部分批评反馈是，嘿，等一下：你知道，你的最终客户是这些社区的纳税人。不只是警察。

在那里有一段时间有很大的压力，特别是对我个人和公司来说，就像，你打算怎么做，去理解社区的担忧，他们感觉自己被监管过度了？所以我们聘请了Regina，有趣的是，当你在房间里听到这些不同的声音时，对我来说，解决方案导向变得可能是相当令人振奋的。

FC：比方说？Axon如何让社区成员参与其中一些新产品的规划？

如果你现在看新闻，你会看到很多关于警察问题的愤怒。你看，黑人的生命很重要，蓝色的生命也很重要，代表着这两个极，在这两个极上，警察几乎不会做错事，而这些抗议者是坏人。而另一方面，则是截然相反的观点：警察是暴徒。

但最终我们还是一起进了房间。坐在桌边的社区里更多的人也看到了这一点。他们在说，“Y。

.