撒谎、腐败、反美的警察对人工智能肆意妄为

美国数十万执法人员有权使用黑盒 AI 进行不道德的监视、生成证据并规避我们的第四修正案保护措施。并且没有理由相信有人会对此采取任何行动。问题在于，黑盒人工智能系统是初创公司、大型科技公司和政治家的金矿。而且，由于公众对他们做什么或如何使用它们一无所知，因此执法机构可以随心所欲地做任何他们想做的事。任何警察，无论隶属关系或地位如何，都可以访问数十个（如果不是数百个）第三方 AI 系统。当我提到“AI 系统”时，您可能会想象一台带有一堆闪烁灯的服务器，或者一个衣着考究的平民靠在带有六台显示器的控制台上。但我说的是一个 Android 或 iPhone 应用程序，官员和特工可以在他们的主管不知情的情况下使用它。一名警察在他们的个人智能手机上安装了 Clearview AI 等公司的软件。这使他们可以拍摄任何人的照片并显示他们的身份。然后，警察通过 Palantir 等公司的应用程序运行身份，该应用程序会显示有关个人的大量信息。因此，无需搜查令，Friendly 警官现在​​可以访问您的电话运营商、ISP 和电子邮件记录。他们可以访问您的医疗和心理健康记录、兵役记录、法庭记录、法律记录、旅行记录和您的财产记录。它与 Netflix 或 Spotify 一样易于使用。

最重要的是，至少对于不道德地使用这些系统的腐败警察来说，绝对没有任何监督。警察通常会直接从供应商那里获得这些系统作为“试用版”，这样他们就可以在决定是否要求他们的部门大规模采用它们之前试用它们。官员使用这些系统的原因是因为它们使他们的工作更容易。它们允许警察跳过逮捕令程序并自己担任法官。全国各地的执法机构每年在人工智能服务上花费数十亿美元，其中许多是骗局或监视工具。其中包括不适用于黑人面孔的面部识别系统、允许警察将贫困少数民族社区的过度监管归咎于算法的预测性警务系统，以及其唯一目的是生成证据的利基服务。预测性警务是执法部门使用的最常见的不道德人工智能系统之一。这些系统基本上是蛇油骗局，声称使用“数据”来确定犯罪将在何处发生。但是，众所周知，您无法预测犯罪将在何时何地发生。你所能做的就是确定，从历史上看，警察往往在哪里逮捕最多的人。预测性警务系统的实际作用是让警方成为过度监管少数族裔和贫困社区的替罪羊。最重要的是，从数学上讲，您不能从不存在的数据中得出推论。并且没有关于未来犯罪的数据。任何说这些系统可以预测犯罪的人显然都是凭信心运作的，因为没有人能解释为什么黑匣子系统会产生它所做的输出——即使是创建它的开发人员也无法解释。简而言之：任何时候执法部门使用的人工智能系统可以以任何方式影响人类的结果，它都可能是有害的。

Vice 今天发表了一篇文章，详细介绍了芝加哥警察局使用 ShotSpotter 的情况，ShotSpotter 是一种旨在检测枪声的人工智能系统。据该公司称，它可以以高达 95% 的准确率检测大范围内的枪声。但在法庭上，他们声称这只是一种营销保证，背景噪音会影响任何读数的准确性。这意味着这是一个没有人可以解释的黑匣子系统，也没有法律部门会为之辩护。 Vice 报告称，警方指示 ShotSpotter 员工更改证据，使其看起来好像系统在某些情况下没有检测到枪声。在其中一个案例中，警方让一名员工改变检测地点以反映犯罪地点。在另一个案例中，他们让一名员工将“烟花”的名称改为“枪声”，以方便逮捕。当在法庭上受到质疑时，检察官只是撤回了证据。而已。据我们所知，没有人被逮捕或起诉。这里的问题不在于 ShotSpotter 不起作用（尽管，如果您必须在法庭上使用 Tucker Carlson 的防守，它可能不会）。就是这样，即使它确实有效，它也绝对没有任何用处。你听过枪声吗？他们很吵。如果周围有人，他们就不会被发现，而且在芝加哥任何特定地区开枪的声音都会被数以万计的人听到。

与黑盒算法不同，人们可以在法庭上作证。他们可以描述他们听到的内容、何时听到，并向陪审团解释为什么他们认为他们听到的声音是或不是枪声。如果我们发现检察官告诉他们说他们听到了枪声，然后他们在法庭上承认他们说谎，那就叫做作伪证，这是一种犯罪。我们可以让人们承担责任。有这么多不道德的警察 AI 的原因是因为它非常有利可图。出售人工智能的初创公司和大型科技公司正在从不关心或不了解正在发生的事情的纳税​​人那里获得数十亿美元的报酬。授权支付的政客们正在从说客那里攫取钱财。使用它的警察可以在闲暇时无视我们的宪法权利，绝对不必担心遭到报复。这是一场无知、腐败和资本主义的完美风暴。美国的开国元勋，就像人工智能一样，无法预测未来。例如，当他们起草第二修正案时，他们无法知道有朝一日会有数十万全副武装的政府特工全天候巡逻我们的社区——从而使我们持有和携带武器的权利成为一种没有实际意义的保护形式反对暴政。现在我们的第四修正案权利也发生了同样的情况。当我们的私人信息被锁在文件柜中并且访问它的唯一方法是在搜查令上由法官签名时，我们的隐私权至少在某种程度上得到了保护，免受腐败。现在这些保护措施都没有了。从历史上看，您不需要预测算法来了解接下来会发生什么。