加州法案将强制执行“犯罪预测”算法，而不是现金保释

如果加州目前废除现金保释的努力取得成功，它将根据犯罪预测算法的建议建立一个将人关在监狱里的系统--专家批评这项技术导致了歧视。

根据今年11月在该州进行投票的第25号提案，法官将被要求使用一种被称为“风险评估工具”的算法，该算法预测被告获释后是否会再次被捕或跳过审判。有了足够高的“风险”分数，被告将被监禁，他们将没有机会换取自由，因为立法废除了现金保释。

专家说，法官可以推翻算法的建议，有时他们会这样做，但通常是为了把人关起来。“法官很少忽略风险评估工具中的‘扣留’建议，也经常忽略‘释放’建议，”人权观察高级研究员约翰·拉普林(John Raphling)告诉“母板”(Motherboard)。

在结束保释和实施大数据分析之间，这项立法赢得了许多改革者的喝彩，他们表示，这是对种族主义和金钱保释分类的科学解决方案，缓解了人们对再次逮捕和错过听证会的担忧。但学者和倡导者表示，预测算法复制了系统性的歧视。

在过去的十年里，审前预测已经悄悄地获得了购买，有时是字面上的，结束了刑事法律系统100年来用统计数据预测所谓犯罪行为的努力。根据一项统计，美国每三个县中就有一个在审前空间使用算法，其中许多是私人所有的。运动联盟项目的政策主任汉娜·萨萨曼(Hannah Sassaman)告诉主板，当它们被采纳时，“通常没有宣布、决议或新闻稿”。“这些工具是在黑暗中实施的。”

在这方面，加利福尼亚州是一个局外人，它通过2016年首次提出的参议院第10号法案，高调推动禁止现金保释和授权预测算法。这项立法，也被称为SB10，在2018年短暂成为法律，但保释行业发起了一场快速的运动，试图将其拖延到2020年的投票倡议：第25号提案。

加州58个县中至少有49个县的法院已经配备了风险评估算法。但由于它们还不是必需的，它们可能会处于休眠状态，或者只在很小的情况下才能使用。社区司法交易所的执行董事皮拉尔·韦斯(Pilar Weiss)告诉母板，一些司法管辖区完全无视它们。在SB10下，这种情况将会改变。“历史，”一位议员在2018年宣称，“将表明，使用风险评估系统将是发展的方向。”

SB10不会标准化算法，这意味着每个县的预测工具可能会处理关于被告的略有不同的数据，就像他们现在所做的那样。

已经有两个县使用了公共安全评估(PSA)，这是一种使用七个因素来确定是否将某人关押的工具。这些信息包括逮捕时的年龄，错过法庭听证的历史，以及以前的重罪记录。

洛杉矶县是世界上监狱人口最多的县，使用改良版的惩教罪犯管理概况工具进行替代制裁，或称COMPAS。Compas包括一份由137个部分组成的问卷，用于评估一个人的“风险”，记录个人细节，如被告是否只从事过低工资的工作，以及是否有亲戚或朋友被逮捕或监禁。筛查员会问被告，他们是否相信“饥饿的人有权偷窃”，以及“在你的社区里是否很容易买到毒品”。

社区司法交易所(Community Justice Exchange)在2019年的一份报告中写道，Compas对这些因素和其他因素的精确使用被认为是“商业秘密”，因为该算法是营利性的。就PSA而言，它没有标价。它是由前安然(Enron)交易员约翰·阿诺德(John Arnold)的慈善活动阿诺德风险投资公司(Arnold Ventures)开发的，阿诺德风险投资公司是一个昔日的非营利性基金会，现在是一家有限责任公司。

虽然预测算法在细节上确实有所不同，但它们的实质是通用的：它们集中依赖于被告的既往犯罪史。哥伦比亚大学法学院(Columbia Law School)法律和政治学教授伯纳德·哈考特(Bernard HarCourt)表示，正是在这里，算法被视为存在不可逆转的缺陷。

预测算法被吹捧为一种有效的、成本效益高的预防犯罪的方法。但“你并不是在预测未来的行为，”哈考特告诉“母板”(Motherboard)。“你是在预测警察的行动。”

换句话说，算法跟踪警察，美国警察经常针对穷人、黑人、有色人种儿童、跨性别者、移民和性工作者。被告是否被错误逮捕无关紧要，因为算法不会考虑逮捕模式。

与其他预测算法系统一样，风险评估软件嵌入了我们社会结构中已经存在的歧视。例如，当一个算法评估某人的最高教育水平或工作经历时，它是在跟踪作为种族、阶级和性别认同的代言人的社会结构-通常决定着教育和收入。哈考特解释说，预测算法利用过去来预测未来，只是强化了历史上的压迫力量。

这在加利福尼亚州可能被证明是特别危险的，那里的法官设定的平均保释金为5万美元，经常向被告施压要求他们认罪。加州前庭审律师拉夫林(Raphling)说，当被告因为负担不起保释金而入狱时，他们“认罪更快，争斗更少”。“作为一个整体，法官依靠审前监禁来迫使他们认罪。”

预测算法通常也会考虑到先前的定罪。这意味着他们将使用加州保释系统的数据，2018年，只有0.95%的刑事案件进入陪审团审判。如果SB10成为法律，算法将更有可能监禁根据SB10试图摧毁的保释制度认罪的被告。

自20世纪20年代所谓的犯罪预测首次使用以来，学者和监狱工作人员发现，相对于其他记录，先前的记录是对未来行为的最好预测。但是，即使它是准确的，算法预测也不会选择把人关起来。根据哈考特的说法，这是一种道德和政治选择。“某人再次犯罪的可能性可能会让我们认为，我们不应该惩罚他们，”他说，“而是应该投资于他们。”

签署“色情通讯”，即表示您同意接收来自“色情通讯”的电子通讯，其中有时可能包括广告或赞助内容。