律师和激进主义者科里·克里德(Cori Crider)的个人资料,后者正代表受创伤的内容主持人在爱尔兰高等法院起诉Facebook和外包公司CPL

2021-03-01 08:01:50

无论是CIA还是Facebook,律师和激进主义者Cori Crider都不会回避战斗

2019年7月,科里·克里斯德(Cori Crider)是一名律师,调查员和激进主义者,被介绍给一位前Facebook员工,他在全球最大的社交媒体平台上监控图形内容的工作给人留下了深深的心理伤痕。主持人描述了每天花在观看令人毛骨悚然的录像上的后果时,Crider首先被他们的痛苦之深打动,然后被一种蠕动的识别感所打动。

在为关塔那摩湾守卫被拘留者长达15年的职业生涯之后,克里德学会了创伤后应激障碍的标志。但是与Crider的先前客户不同,主持人并未遭受酷刑,引渡或拘留。他们只是观看视频来决定它们是否适合公众消费。

克里斯德说:“好像我没有花时间在图片上,”克里德说,隔壁的一个短暂的12月窗口中,隔着布里克斯顿咖啡馆的桌子黑暗地看着我。 “我的整个职业生涯都是与酷刑受害者和无人机幸存者一起度过的。但是,这些去上下文化的图像,视频和声音一次又一次地出现,这确实使您的心理有些奇怪,我认为我们还不了解。”

她开始调查。主持人将她介绍给其他主持人,其他主持人又将她带给其他人。今天,她已经与遍布全球的70多位主持人进行了交谈。 Crider说:“与我交谈过的每个人都有一段他们永远不会忘记的内容,这些内容会在他们的脑海中再现,让他们回想起和做噩梦。”一个人努力走在街上,而没有想象附近行人的脑袋爆炸。另一个不再信任男性家庭成员看了无数个小时的儿童性虐待录像导致近乎永久性的偏执状态后照看孩子。三分之一的人经历着录像的反复出现,在录像中,一个小男孩被一辆坦克反复砍下来,直到他的遗骸被收进铁轨中。 Crider一直在寻找这种情况。

一个月前,克里德(Cderer)与他人共同创立了Foxglove,如今该团队由四人组成,由律师,社区活动家和技术专家组成,致力于为“技术正义”而战。它与政府决策中越来越多地使用不透明和歧视性算法进行法律斗争;人脸识别软件等有害技术的传播;以及科技巨头的巨大力量积累。

2019年12月,Foxglove聘请律师在爱尔兰高等法院起诉Facebook和外包公司CPL,代表包括克里斯·格雷(Chris Gray)在内的许多主持人起诉与创伤后压力相关的数百万美元的赔偿。 (案件正在审理中。)

但是这笔钱对于福克斯洛夫(Foxglove)希望证明的政治观点来说是具有观赏性的:在不利的情况下,科技巨头可以被击败,他们的工人可以成为使他们站稳脚跟的秘密武器,而我们所有人都可以居住的数字世界可以被系统内部的暴动所转变。

随着法庭斗争的进行,与Facebook的斗争正在进入新的领域。 1月下旬,Foxglove与爱尔兰副总理里奥·瓦拉德卡(Leo Varadkar)举行了听证会,因此他可以从主持人那里了解维持世界新闻源可能造成的人身伤害。据信,这是世界上任何地方的此类首次会议,Creder希望,这是拆除沉默之墙的第一步,而严格的保密协议则使沉默的墙壁受阻,这使科技工作者无法针对雇主采取集体行动。

“我们的目标永远不是赢得诉讼。”克里德说,没有丝毫乐观的眼神。 “我们的目标是改变社会。”

Crider轻微,穿着考究,而且自我保证也很令人放心。她说话很快,陷入无休止的句子中,在一个十几年来住在伦敦的德克萨斯州厚重的花纹中脱口而出。如果她不喜欢一个问题,她会再问一次。如果她不同意某个前提,则将其彻底拆除。她是一个不守规矩的被访者,她更愿意当面试官。在我设法问一个问题之前,她宣布:“我对这样的技术真的不感兴趣,但我对电源感兴趣。”

在成立Foxglove之前,出生于德克萨斯州的小镇Crider曾花了15年的时间与恐怖组织最强大的参与者进行战争,其中包括CIA,FBI,MI5和MI6,这些机构被她视为以国民名义非法行事。安全。

在担任人权慈善机构Reprieve的法律总监期间,她释放了数十名被拘留者,使其免于关塔那摩湾的监禁和酷刑,他们为也门遭受无人机炸弹炸死的悲痛折磨的家庭,并向英国政府和安全部门道歉因为它参与了非法移交和酷刑。

她看到了无辜或有罪的人们如何被他们无法控制的系统所破坏。她学会了如何用一小部分的财力击败十亿美元的对手。她将自己的工作描述为“不对称战争”。

但是经过近二十年的观察和干预,Crider注意到所使用的工具发生了翻天覆地的变化。她看到数十亿美元的军事合同被谷歌,亚马逊和帕兰蒂尔等人拖延。政府对其本国公民的监视范围大大扩大;以及无人驾驶飞机战争的成倍增长,她成为了她的受害者并认识并照顾他们。

她说:“看到关于人类生活的最基本的问题,部分是由于算法系统而造成的-一分钱对我来说下降了。” “感觉就像是电源运行方式上的根本不同。”

在2018年离开人权组织Reprieve之后,Crider开始会见可以向她传授技术知识的人-学术界人士,研究人员,活动家和“绝对需要起诉驴友的技术冒名顶替者”。然后她的朋友和前Reprieve的同事玛莎·达克(Martha Dark)伸出了援助之手。三人与公共律师Rosa Curling共同于2019年6月创立了Foxglove。

毛地黄属植物(一种野花)所含的化合物可能会杀死或治愈,具体取决于剂量。 Crider说,这是对技术的类比,可能是“一点点”。它可以自由地播种自己的种子,并在任何可能的地方建立据点。毛地黄(Foxglove)以其名字命名,希望“在您最不期望我们的地方收割”。

迄今为止,这意味着对英国政府的一系列引人注目的胜利。毛地黄的第一个重大胜利是在去年夏天。几个月前,Foxglove使用一种算法来影响内政部的签证决定,引起了内政部的注意。该算法将某些国籍视为“可疑”,从而使他们获得签证的可能性降低。 “那是明显的基于国籍的歧视,”克里德解释说,但仍然很生气。渴望获得良好标题的毛地黄被称为“白人的快速寄宿”,并立即提起诉讼。

在随后的法律反复研究中,Cderer发现,与同类算法一样,它也受到反馈循环的困扰:来自特定国家/地区的人被拒绝的次数越多,该国家/地区未来的申请者就越可能被拒绝。也。机器正在确认自己的偏向。

8月份,内政部投降而不是在法庭上对其案进行抗辩。它致力于放弃该算法并对其实践进行审查。这是英国首次成功地对算法决策系统进行司法审查,目前估计英国所有地方政府都在使用该算法。

此类系统目前用于评估福利索赔的可信度,预测个人犯罪的可能性,以及仅由人执行的其他无数任务。 Crider关心的不是任何单独的系统,而是越来越多的政府机构依赖于他们很少了解的技术,而且很少有公众意识到这种技术正在使用这一事实。

Crider说:“我们绝对不想再对此提起诉讼。” “我们只想在这项技术被使用之前就进行市政控制。”

她引用赫尔辛基和阿姆斯特丹作为范例:9月,两家都宣布面向公众的人工智能寄存器,概述了市政府使用的算法如何工作,如何治理以及由谁负责。

Crider认为:“这些系统必须对我们所有人民主地负责。”她认为,在利用法律迫使隐藏信息进入公众视野时,她可以引发对抗-生产冲突的时刻,从而激发了民主进程。但是没有透明度,冲突的可能性就被排除在外。人们不会对从他们身上隐瞒的事情感到生气。她认为,透明度是大流行的首批受害者之一。

首次全国封锁五天后,卫生部概述了新数据存储的计划。它将结合来自NHS和社会护理的不同数据源,以提供有关Covid-19传播情况的最新信息。博客隆重宣布,它将为大流行的进展“提供单一的事实来源”。

但是政府并不是一个人建设这个项目。微软,谷歌,亚马逊,Faculty和Palantir都获得了合同,这也许是世界上最大的集成医疗系统核心的数据蜜罐所吸引的。 (安永(管理咨询公司)估计,每年NHS健康数据的商业价值为“数十亿英镑”。)

Faculty是以前由Vote Leave签约并与包括Tory的高级政客在内的股东合作的一家人工智能公司,这一事实引起了人们的关注。但是由特朗普捐助者和贝宝创始人彼得·泰尔(Peter Thiel)创立的数据挖掘公司Palantir敲响了警钟。

“这甚至还不是一家真正的健康公司,”克里德气喘吁吁地说。 “这是一家安全公司!”

在过去的反恐战争中,克里德(Cderer)目睹了帕兰迪尔(Palantir)为中情局和美军开发平叛技术。她一直在关注新闻报道,详细报道了与美国警察的广泛合同,这些合同针对的是黑人和棕色社区。她看着它所提供的技术可以使针对她本国的无证件人员的移民执法工作大为扩展。

克里斯德问道:“我们公众是否认为这些是NHS合适的合作伙伴?”

当政府拒绝Foxglove关于披露合同的信息自由请求时,它与进步新闻网站openDemocracy合作,并威胁要提起诉讼。 “他们确实在我们应出庭前几个小时就发布了合同,”克里斯德翻了个白眼。披露行为迫使卫生部声明,由数据存储库构建的程序的知识产权将仍在NHS的控制之下,不会被大型技术所利用,然后再卖回给卫生服务部门。 “这意味着他们无法将我们卖回给我们自己,” Crider咧嘴一笑。

在Crider的心中,人们担心的是,大型技术将自己确立为医疗服务的核心。她建议说:“这是秘密进行的私有化,”这象征着大型科技公司与政府之间日益增长的相互依存关系,这使得对科技巨头的有意义的监管变成了梦dream以求的事情。

这就是Crider看不到大型科技过剩的解决方案来自越来越依赖其软件和服务的政府的部分原因。在Crider看来,人的力量是我们唯一的希望,也是Facebook主持人之战应引起我们所有人关注的原因。

克里斯德认为,迄今为止,我们一直错过了她所认为的硅谷最大企业的致命弱点:他们与自己员工的关系。她沉思说:“这就是使毛地黄与众不同的原因。” “我们非常重视建立技术工人的力量。”

她说:“我们在社交媒体上看到了很多有关内容的讨论,从错误的信息,仇恨言论到针对性的政治广告等问题,”,但在支撑整个系统的劳动力条件下几乎没有,从字面上看,没有YouTube或Facebook这样的东西。您认为现在是狗屎秀吗?没有这些人所做的工作,您永远不会涉足其中!他们不是工作的一部分,而是工作。”

Crider指出,科技工作者开始了解他们的力量。 Google工人正在字母工人工会的旗帜下进行工会化。本月,阿拉巴马州约有5,000名亚马逊员工将就是否成为万亿美元公司的第一个正式工会进行投票。就在去年,美国通信工作者协会开始了它在科技工作者中的第一个大型联合行动,即Code。

正如Crider所看到的那样,问题源于科技巨头自身传播的想法:它们仅仅是新闻提要,有用的搜索引擎或原始图像网格,而不是具有剥削性工厂基础的实体,可以与任何竞争对手抗衡。 20世纪的工业巨人。她总结说:“这些公司已经摆脱了人们为争取胜利而奋斗了几十年的保护工人的方式。”

科技公司已经摆脱了人们为争取胜利而奋斗了几十年的工人保护措施

Crider毫不含糊:Facebook主持人和整个技术工作者都需要工会。但这是一条很长的路。她希望法律诉讼,Varadkar听证会和Foxglove的工作联系世界各地的不同主持人,从而激发一种可能引起技术工人起义的阶级意识。

但另一个障碍迫在眉睫:保密协议确保了Facebook员工的沉默。

“在我看来,这些工人聚集在一起的最大障碍是害怕说话。她说:“如果不打破那堵墙,就无法获得集体力量。”

与Facebook主持人一起工作18个月后,Crider仍然没有合同副本,主持人声称他们必须签署合同,但不允许保留。 “那甚至合法吗?我认为这不合法!”她说。他们的证词暗示了严厉的苛刻条件:禁止他们向包括配偶在内的任何人谈论自己的工作。 “就像该死的中央情报局一样,”克里德喊道。

这些问题影响到我们所有人。 Facebook已有效地成为公共广场,影响着我们阅读的新闻,所拥有的论据以及我们所居住的数字世界。 Crider认为,系统内部的人有能力改变这种状况,并阻止民主所依赖的信息流的污染。如果他们有行动的权力。

克里斯德告诉我她“在冲突中”。但是,爱残废的背后可能是让Crider变得最危险的原因:对陷入困境的人们的原始关怀,无论是被非法关押在关塔那摩湾的15岁男孩,还是Facebook主持人的工作损害了他们的伪造能力充实人际关系。

Facebook,以及紧随其后的下一个实体,都应该期待一场战斗。 Crider尚未解决。她不相信根深蒂固的权力可以简单地说服改变路线。而且她不相信技术创始人能够将我们从他们所生的怪物中拯救出来。 Foxglove希望在声誉和财务上都付出代价,以至于无论是政府将核心公共服务外包到不透明的算法机器上,还是从民主衰落中获利的技术亿万富翁,正常的业务都是不可行的。

她总结说:“这并不是说服他们做正确的事:这是关于增加他们坚持卑鄙行为的代价。”她笑着说:“我们不需要每次都赢,我们只需要赢得足够的胜利,最终就可以算出政治上的秘诀。”