在过去的几十年里,不断有人警告说,我们的技术发展正在威胁着我们的文明适应和遏制它们的能力。彼得·泰尔(Peter Thiel)或埃隆·马斯克(Elon Musk)等亿万富翁敲响了当今最响亮的警钟,他们很快就能迅速说出一长串世界末日的科技情景(杀手级人工智能、数字或生物武器)。谁来告诉他们,这些时刻已经过去了,特别是对于我们这些不是白人的人来说?
一些血迹斑斑的手几乎不需要提醒。过去几周,前明尼阿波利斯警官德里克·查文(Derek Chavin)杀害乔治·弗洛伊德(George Floyd)引发了抗议活动,在此期间,一波又一波的科技公司发表了简洁的声明和姿态,意在分散人们对他们在启用警察暴力、为警方提供强大但往往无效的技术、赋予联邦当局权力以及为了利润而使黑人和棕色社区贫穷方面所扮演的角色的注意力。
在围绕消除警察暴力的最佳方式展开激烈辩论之际,我们应该看看技术被用来将犯罪非政治化,同时将边缘群体定为刑事犯罪,并建立不可避免地针对黑人和棕色人的大规模监控基础设施。
玛丽亚姆·卡巴(Mariame Kaba)在她的“纽约时报”专栏文章“是的,我们的意思是从字面上废除警察”中解释说,打破罢工和奴隶巡逻中维持治安的起源应该提醒我们,从历史上看,他们为了维持现状而压制边缘人群。一个世纪的改革并没有减少警察的暴力,特别是针对黑人的暴力,因为当一名警察粗暴对待一名黑人时,他是在做他认为是他的工作。
取消警察恐吓黑人和棕色社区的资金是一个更大的雄心的一部分:废除警察(和监狱),创建许多社区缺乏的重要支持系统,“而不是像监狱废奴主义者露丝·威尔逊·吉尔摩(Ruth Wilson Gilmore)所说的那样,建立残酷的系统。”然而,问题仍然存在:废除对那些助长警察暴力并从中获利的公司和行业意味着什么?
犯罪是如何构建的,技术是如何应对的,背后的政治因素是一个很好的起点。正如政治经济学家贾森·萨多夫斯基(Jathan Sadowski)在OneZero中所写的那样,我们必须成为近藤玛丽(Marie Kondo),但不是为了技术。这件事对人类福祉和/或社会福利有贡献吗?如果没有,就把它扔掉!";
多年来,人们一直在争先恐后地寻找警务工具或方法,以反驳公众日益增长的看法,即警务本质上是种族主义的、武断的和无端的暴力行为,科学的叙述强调客观性和对模式的统计分析。在2011年发表的一篇关于这一主题的有影响力的论文中,研究人员大卫·魏斯伯德(David Weisburd)和彼得·内鲁德(Peter Neyroud)呼吁“彻底改革科学在警察中的作用”,并辩称“如果警察要保持公众支持和合法性,警察领域的科学进步是必不可少的。”
魏斯堡、内鲁德、犯罪学家和警察部门所拥护的巨大希望是,将警务重塑为一个“循证政策的竞技场”,并让公众相信,它是由统计分析推动的,而不是种族主义--由犯罪现实驱动,而不是由受到种族偏见影响的官员的命令驱动。
然而,这并不能抹杀这样一个事实,即犯罪化从来都不是中立的,而是总是利用种族、社会经济学或各种代理来确定谁是罪犯,什么是罪犯(以及谁最常因“犯罪”而被起诉,从而为算法分析创造了一个统计基础)。社会学家卡尔文·约翰·斯迈利(Calvin John Smiley)和大卫·法昆勒(David Fakunle)在他们从“野蛮人”到“暴徒:美国手无寸铁的黑人男性受害者的妖魔化和刑事化”的研究中,探索了神话、刻板印象和种族主义意识形态的历史记载,导致歧视性政策和法院裁决在后重建时代助长了种族暴力,并最终导致今天黑人男性监禁人数呈指数级增加。历史学家哈里·纪伯伦·穆罕默德(Khali Gibran Muhammad)在“对黑人的谴责:种族、犯罪和现代美国的形成”一书中指出,在“一个快速工业化、城市化和人口结构变化的美国,黑人被通过犯罪统计数据重塑”,20世纪人们花费了巨大的精力来在黑人和犯罪行为之间建立看似经验性的联系,这将证明寻求恐吓和残暴黑人的循证政策是合理的。
穆罕默德将美国犯罪种族主义的起源追溯到1890年的人口普查,这是一个更大的项目的一部分,该项目旨在将种族监禁差异解释为个人的失败犯罪行为不是一种社会现象,而是一些劣势种族群体固有的文化特征。具有讽刺意味的是,调查记者雅莎·莱文(Yasha Levine)还指出,这一时刻是现代计算机技术,更具体地说是硅谷普遍存在的种族主义的发源地:正如2020年人口普查之战所表明的那样,统计我们的邻居,将他们分类并将其转化为统计数据的动力,仍然带有我们自己非人性化的种子。
技术、犯罪化,以及犯罪统计数据可能会被描述为种族中立或非政治性的,但历史证据-以及一些批判性思维-清楚地表明,这是胡说八道。正如萨多夫斯基的“太聪明”(Too Smart)一书所说,技术最好被理解为“嵌入了价值和意图……人类做出的决定和行动的结果,然后它被有动机和目标的人类所利用。”萨多夫斯基的书主要关注智能技术-这是警察以证据为基础的重塑品牌不可或缺的一部分-并充实了智能技术收集和控制数据的两大必备条件:“收集的当务之急是以任何可能的方式从所有来源提取所有数据…控制的当务之急是创建监控、管理和操纵世界和人的系统。”
收集数据的当务之急是“在任何人都有权获得这些数据并利用其价值的时候,将其重塑为一种无处不在的资源”。控制的当务之急是“通过各种杂乱无章、相互连接的隐藏系统工作,这些系统通过将人们分解成可以记录、分析和实时评估的数据点来监控他们”,这样就可以通过检查点和密码来微调排除和纳入。这两个当务之急显然都是政治上的,特别是考虑到计算机技术的种族主义根源,将其作为将贫困和监禁等结构性结果自然化的一种方式。
鉴于这段历史,至少可以说,试图将这种固有的政治现象非政治化是令人担忧的。在这两种情况下,这样的努力也暴露了一定的紧迫性,这与改善公共安全和健康的假设目标相矛盾。根据Weisburg和Neyroud的说法,犯罪非政治化将使警察能够确保其在提供公共服务的竞争世界中生存“--换句话说,该机构主要关心的是保护自己,而不是保护我们。正如技术评论家叶夫根尼·莫罗佐夫(Evgeny Morosv)在对凯文·凯利(Kevin Kelly)的“技术想要的东西”(What Technology Want)的尖刻评论中所评论的那样,非政治和非历史的技术概念是毫无用处的,除非你有兴趣向企业出售无用的建议,这样他们就可以向公众兜售胡说八道的非政治叙事。我不明白为什么我们不能假设这就是他们想要的。
在寻求通过将犯罪作为一种类别和将技术作为一种工具去政治化来重新获得合法性的过程中,执法部门为种族主义警察的永无止境地重现创造了条件。这一点在实施预测性警务和面部识别软件方面表现得尤为明显,这两个工具往好了说只是维持了现状,往坏了说却加深了刑事化、警察暴力和监禁背后的种族差距。
在警察开始使用预测分析之前,它在私营部门已经很普遍了。例如,保险业几十年来一直享受着一种能力
所有这些都没有让布拉顿望而却步。在2002年成为洛杉矶警察局局长后,他招募了肖恩·马利诺夫斯基(Sean Malinowski)-当时是一名拥有公共管理学博士学位的中士-来改进洛杉矶警察局的COMPSTAT,然后在2007年发出了行动呼吁:“我要求更多的研究人员开始与我们合作,在我们部门和城市的现实世界实验室里帮助我们证明或反驳我作为一名从业者和我的大多数同事深深相信、支持和实践的信念和做法。”
由此,将出现一系列数据驱动的实验,其中最重要的是PredPol。P.Jeffrey Brantingham,PredPol的主唱,是加州大学洛杉矶分校的人类学家,他找到了这两个人,并提出采用一个预测地震余震的模型,以使用历史犯罪统计数据预测犯罪。警察将获得带有红色500平方英尺盒子的地图,这些盒子是犯罪发生的地方,他们希望在这些盒子里巡逻,以威慑犯罪或在行动中抓获罪犯。正如主板报道的那样,像PredPol这样的软件从一开始就是种族主义的。
法律学者警告说,预见性警务系统威胁到第四修正案的权利,即要求警察在特定时间将特定空间内的个人作为潜在罪犯进行拦截,以防止不合理的搜查和扣押。再加上这样一个事实,不仅地理位置是种族的众多指标之一,而且对历史犯罪数据的依赖将强化现有的治安差距,这些差距侧重于城市的非白人社区,而不是郊区的白人社区,并进一步激励“智能”系统的扩展,不仅通过监控收集数据,而且正如布拉顿在2007年的行动呼吁中所说,“控制行为的程度达到我们可以改变行为的程度”。
圣克鲁斯是美国首批采用PredPol的城市之一,现在将成为美国第一个禁止该软件的城市-数十个城市已经或仍在秘密试验该程序。即使每个城市都禁止预测性警务,采用非政治化的犯罪和技术范例也很可能已经造成了严重的破坏,这种范式只会加强种族主义警务,并使我们系统性暴力的警察部门重新合法化。近十年来,人们一直担心,这种范式不仅出于自身目的扭曲犯罪数据,而且几乎不可能准确评估其对犯罪的正面或负面影响。
然而,这个问题并不局限于预测性警务,实际上在提供给警察部门的所有技术中都存在。我们一次又一次地看到,技术被用来简单地使种族主义警务合法化,或者以新旧方式将边缘化社区作为目标。
尽管面部识别技术被广泛认为充斥着种族偏见,但亚马逊多年来一直向几个警察部门提供自己的种族主义产品Rekognition。该公司宣布暂停向警方提供面部识别技术一年,但这并不包括其令人印象深刻的游说努力,目的是起草规范面部识别的法律,而且它无法撤销已经导致我们所知的一名男子被算法错误指控的假阳性。临时禁令也没有延伸到亚马逊的家庭监控网络Ring,亚马逊不遗余力地不仅向1000多个警察部门提供了这一网络,而且还从促使社区首先采用摄像头的郊区种族主义偏执狂中获利。它也没有延伸到亚马逊向警方提供的包裹盗窃的“热点图”。
在乔治·弗洛伊德(George Floyd)抗议活动之后,至少有15个不同的城市使用了空中侦察来追踪抗议者-这是对联邦调查局(FBI)运营一支侦察机机队飞越美国城市的回溯。表面上担心国内动乱的联邦机构部署了强大的监控工具,并获得了广泛的新行政权力,以密切跟踪抗议活动和任何相关的社交媒体活动--这是对联邦政府使用强大监控工具监视抗议者和异见人士,尤其是黑人活动人士的长期历史的倒退。因此,要求透明的呼声越来越高,但如果我们不拆除这个监控基础设施,用灯光消毒它有什么好处呢?
大多数关于废除的讨论都集中在警察和监狱上,这些机构的惩罚性愿景解决了我们社区内的危害问题,使社会变成了一个以拉网式监视和以偏见为动机的刑事化为主导的社会,所有这些都是以解决犯罪的名义进行的,而不是实际解决犯罪的根本原因。但是,由Compa热情建造的基础设施-监狱技术-又如何呢?
在“卫报”的一篇专栏文章中,本·塔尔诺夫认为,为了避免气候灾难,我们需要通过阻止大型科技公司通过在各地部署计算技术来实现一切数字化的努力来实现脱碳。这样的立场可能会招致对路德主义的指责,但塔尔诺夫说:
好:路德主义是一个值得拥抱的标签。勒德派是英雄人物和敏锐的科技思想家。用历史学家大卫·F·诺布尔(David F Noble)的话说,他们在19世纪的英国捣毁纺织机械是因为他们有能力“以现在时态”感知技术。他们没有耐心地等待进步福音所承诺的光辉未来。他们看到某些机器以现在的时态对他们做了什么--危及他们的生计--就把它们拆了。
多年来,公共产品和服务的预算削减与警察部门、监狱设施和技术合同的预算增加相匹配,以进一步膨胀警察和监狱。再加上这样一个世界,硅谷公司无论盈利能力如何,都拥有近乎无限的融资能力,我们还能期待什么呢?一个由华尔街、庞大的科技公司、五角大楼、警察部门和监狱等机构主导的社会,是一个由基础设施主导的社会,这些基础设施将他们的利益和当务之急放在首位。
萨多夫斯基写道,我们需要的不是学校和服务的紧缩,而是监控和社会控制的紧缩。更具体地说,解体还意味着系统地摧毁充斥着我们城市的相机、ShotSpotters和其他间谍技术。萨多夫斯基在OneZero中提出的愿景,以及他在书中提出的愿景,都值得我们考虑,因为我们正在弄清楚警察和废除监狱可能意味着什么。
这一愿景的一部分包括通过取消一种工业模式来废除硅谷,这种模式允许一小群人决定谁、什么、哪里、如何以及为什么进行技术开发。我们应该安心地认为,一些形式的技术永远不会建立,而另一些形式的技术永远不会被摧毁和拆除,或者一些实体永远不允许获得各种类型的技术。
我们还需要将技术发展从资本的支配中解放出来-如果不把人类福祉或社会福利放在首位,为什么要开发这样或那样的技术;如果有,但对一小撮投资者无利可图,为什么不应该开发呢?如果我们想要确保我们对福利或社会福利的定义看起来不会与优先考虑特权和有权势的人的现状有可疑的相似之处,那么民主化创新也是必要的。因此,民主化优先考虑哪些人将受到一项技术的影响,因为这些人在技术的创造和设计中扮演着重要的实质性角色,超越了消费的范畴,这是有道理的。随之而来的是,透明度意味着更公平地获得塑造我们日常生活的数据集和工具,这样我们就可以一起取消控制系统,建立优先考虑公共利益而不是私人利益的支持系统。
需要强调的不是简单地改革现状,支撑我们深陷困境的技术政治,而是从根本上改变政治经济,以便我们最终能够解决嵌入在建设我们的社会和调解我们日常生活的工具中的猖獗的种族主义、分类主义和性别歧视。公有数据来解决社会问题,而不是无休止的商品化,而不是强化片面和剥削性的公司与消费者关系的数据红利。拆除我们的行星监视基础设施,而不是重新合法化,有可能使其一些最有害的因素永久化。
太长时间以来,我们一直允许历史上将犯罪和技术作为政治武器的同一批人说服我们,这些都是非历史和非政治的--甚至是自然的和中立的。只要我们同意这些错觉,我们就永远不能采取必要的步骤来质疑他们对犯罪如何被构建为一个有助于社会控制的类别的控制,或者如何利用技术作为促进少数群体利益的工具。只要我们不能看到,更不用说赢得伴随着定义犯罪或设计技术而来的政治斗争,我们就永远无法建设我们想要的世界。
签署“色情通讯”,即表示您同意接收来自“色情通讯”的电子通讯,其中有时可能包括广告或赞助内容。