看看微软在阿根廷萨尔塔省预测少女怀孕的人工智能系统，该系统因具有侵入性和不透明性而受到活动人士的抵制

2018年，当阿根廷国会就是否将堕胎合法化展开激烈辩论时，北部萨尔塔省的幼儿部和美国科技巨头微软提出了一个预测少女怀孕的算法系统。他们称之为社会干预的技术平台。

当时的省长胡安·曼努埃尔·乌图比（Juan Manuel Urtubey）在全国电视台上自豪地宣布：“有了技术，你可以提前五到六年预见，知道名字、姓氏和地址，未来的少女中有86%注定会怀孕。”。声明的目标是使用该算法预测低收入地区的哪些女孩将在未来五年怀孕。当一个女孩或年轻女性被贴上“命中注定”为母亲的标签时，会发生什么，或者这些信息将如何帮助预防青少年怀孕，目前还不清楚。为人工智能系统提供信息的社会理论，就像其算法一样，是不透明的。

该系统基于的数据包括年龄、种族、原籍国、残疾，以及受试者家中浴室是否有来自萨尔塔市20万居民的热水，其中包括1.2万名10至19岁的女性和女孩。虽然没有官方文件，但通过查阅媒体文章和两篇技术评论，我们知道"；地区代理人"；参观了有关女孩和妇女的房屋，询问调查问题，拍照，并记录了GPS位置。那些受到这种密切监视的人有什么共同之处？他们是穷人，一些是来自玻利维亚和南美洲其他国家的移民，还有一些是来自土著威奇、库拉和瓜拉尼社区的移民。

尽管微软发言人自豪地宣布，Salta的这项技术是“人工智能数据使用方面的开创性案例之一”，但它几乎没有什么新东西。相反，这是阿根廷悠久传统的延伸：通过监视和武力控制人口。对它的反应表明，草根的阿根廷女权主义者能够应对这种对人工智能的滥用。

在19世纪和20世纪初，阿根廷历届政府对土著社区进行了种族灭绝，并推行了基于旨在吸引欧洲人定居的意识形态的移民政策，所有这些都是为了实现布兰基斯莫（blanquismo）或“美白”国家。随着时间的推移，一个国家的身份认同是沿着社会、文化和大部分种族界线建立起来的。

历史学家玛丽莎·米兰达（Marisa Miranda）追踪了阿根廷通过科学和技术控制人口的尝试，她表示，这种优生思维倾向于改变和适应新的科学范式和政治环境。以移民为例。纵观阿根廷历史，人们的观点一直在庆祝移民是“改善”人口的一种手段，认为移民是不受欢迎的，同时也认为移民是一种政治威胁，需要仔细观察和管理。

最近，1976年至1983年间的阿根廷军事独裁政权通过系统性的政治暴力控制了民众。在独裁统治时期，妇女肩负着使国家人口增加的“爱国任务”，1977年的一项法律禁止避孕。独裁政府对做母亲的兴趣最残酷的表现就是绑架被认为具有政治颠覆性的孕妇。大多数妇女在分娩后被谋杀，她们的许多孩子被军队非法收养，由“爱国的天主教家庭”抚养

尽管萨尔塔“预测怀孕”的人工智能系统被誉为未来主义，但它只能根据这段漫长的历史来理解，尤其是用米兰达的话说，持续的优生冲动总是“包含对未来的参考”，并假设生殖“应该由强大的人管理”

由于完全缺乏国家人工智能监管，社会干预技术平台从未接受过正式审查，也没有对其对女孩和妇女的影响进行评估。目前还没有官方数据公布其准确性或结果。与世界上大多数人工智能系统一样，包括在敏感环境中使用的人工智能系统，它缺乏透明度和问责制。

虽然目前尚不清楚该技术项目是否最终被暂停，但我们对该系统的所有了解都来自女权主义者和记者的努力，他们领导了一个对有缺陷和有害的人工智能系统的基层审计。通过迅速启动一台运转良好的社区组织机器，这些活动人士让全国媒体注意到一种未经测试、不受监管的技术如何被用来侵犯女孩和妇女的权利。

女权主义者帕斯·佩尼亚和乔安娜·瓦伦当时写道：“算法可以在少女怀孕发生之前预测少女怀孕的想法，是反女性、反性和生殖权利活动人士宣布堕胎法不必要的完美借口。”。事实上，很快就发现阿根廷的非营利组织称为科宁基金会，由Abel Albino博士经营，这是反对堕胎权利的一个反对者，在这项技术的背后，还有微软。

“科技项目是父权制的产物，”暴力侵害妇女观察站主任安娜·佩雷斯·德克勒克说。“它混淆了社会经济变量，让人觉得女孩或女人的处境似乎是唯一的罪魁祸首。它完全不关心背景。这个人工智能系统是国家侵犯妇女权利的又一个例子。想象一下，拒绝参与这种监视会有多困难。”她补充说，家庭依靠该项目的赞助机构幼儿部提供疫苗接种和免费牛奶等服务。在一个2021的国家，一半的人口生活在贫困中，这是脆弱的女孩和妇女承受不起发言风险的重要支持。

布宜诺斯艾利斯大学应用人工智能实验室强调了平台严重的技术和设计错误，并对开发者和39提出了挑战；声称该模型“在98.2%的时间里做出了正确的预测”技术审查基于不完整的信息，因为系统缺乏透明度。然而，据透露，该系统数据库包括种族和社会经济数据，但没有包括有关性教育或避孕的信息，全世界的公共卫生工作都认为这是降低少女怀孕率的最重要工具。实验室主任迭戈·费尔南德斯·斯莱扎克（Diego Fernandez Slezak）说：“数据的不可靠性等方法学问题有可能导致决策者采取误导性行动。”。

尽管萨尔塔预测怀孕的计划受到了学术界和记者的公开批评，但女权主义活动人士利用媒体的关注，实施了一项公共问责措施，即使在国家完全缺乏人工智能监管的情况下也是如此。这种对人工智能系统的有效抵制是可能的，因为阿根廷女权主义者已经建立了强大的社会运动。

早在19世纪，布宜诺斯艾利斯的移民妇女就在无政府主义报纸La Voz de La Mujer（女性之声）中倡导平等和生殖权利，口号是“尼迪奥斯，尼帕特龙，尼马里多”（既不是上帝，也不是老板，也不是丈夫）。

独裁统治后，阿根廷妇女开始组织起来。第一届全国妇女'；在1981年拉丁美洲和加勒比女权主义者会议和第三世界妇女大会的启发下，妇女大会于1986年召开；1985年在内罗毕举行的一次国际会议。数千名妇女参加了年度集会，这些集会有助于制定争取生殖权利的战略。在2005年的会议上，倡导合法、安全和自由堕胎权的全国运动以口号“Educación sexual para decidir，anticoptivos para no aborttar，aborto Legal para no morir”开始，意思是“决定性教育，避免堕胎的避孕药，生存的合法堕胎”

2015年，阿根廷爆发了反对基于性别的暴力的女权运动#NiUnaMenos（不是一个女人少了），这是由在圣达菲省被男友谋杀的14岁怀孕少女Chiara Paez的尸体被发现引发的。这场大规模的运动吸引了各行各业的女性，汇集了各种各样的活动人士运动，包括倡导土著权利、LGBTQ权利和移民权利的团体。抗议活动迅速蔓延到乌拉圭、智利和墨西哥。华盛顿特区、巴黎、巴塞罗那、奥斯陆、阿姆斯特丹、日内瓦和北京等城市加入了主要由居住在这些城市的拉丁美洲妇女领导的动员活动。

#纽纳梅诺斯在社交网络上引起了轰动。该运动揭露了阿根廷和其他国家几乎完全没有关于基于性别的暴力的官方数据和统计数据，导致草根数据行动主义追踪和宣传杀害女性和其他形式的暴力。（由活动人士发起的努力后来被政府采纳，包括阿根廷的一个全国性的性别暴力案件登记系统。）

然后，在2018年，一场新的女权主义运动兴起，超过100万抗议者聚集在布宜诺斯艾利斯街头，要求堕胎合法化。这引发了“绿色浪潮”（Marea Verde）或“绿色浪潮”（Green Wave），它的名字来源于活动人士佩戴的绿色围巾，灵感来自梅奥广场（Plaza de Mayo）宗教领袖们标志性的白色头巾，她们勇敢地反抗独裁统治，寻找被谋杀的孩子和被绑架的孙辈。像尼努梅诺斯一样，绿色浪潮迅速蔓延到其他拉丁美洲国家，甚至到了波兰，反对激流限制的活动人士在2021举行抗议活动时戴着绿色围巾。在绿色浪潮的推动下，阿根廷于2020年成为拉丁美洲首批将堕胎权合法化的国家之一。

正如Zeynep Tufekci和其他学者所记录的那样，数据活动不是在真空中发生的。它可能会通过标签传播，但只有在阿根廷女权主义者建立的#niumenanos和Green Wave等组织良好的地面网络的支持下，它才能发挥作用。

阿根廷已宣布有意成为技术开发和人工智能领域的地区领导者。尽管布宜诺斯艾利斯的经济持续不稳定，但它已经培育了一个欣欣向荣的创业环境。在阿根廷，与世界许多地方一样，人工智能发展蓬勃发展，但监管严重滞后。前总统毛里西奥·马克里（Mauricio Macri）的政府在2019年宣布了一项国家人工智能计划，但该计划基本上已被放弃。为了使国家人工智能计划能够有效地保护社会，尤其是历史上处于边缘地位的人口，决策者应该关注女权主义者一直在做的实地工作。

与社会干预技术平台一样，女权主义团体Socorro Rosa或“粉红救援”寻求解决青少年怀孕问题，他们都使用destino这个词来描述自己的项目，意思是“命运”或“命运”。但它们形成了鲜明的对比。索科罗·罗萨（Socorro Rosa）强调了一些数据，这些数据揭示了性暴力导致的大量青少年怀孕，并主张青少年有权获得安全、同意、性教育和安全堕胎。该组织将这场运动描述为对女孩和女性“挑战、质疑并敢于想象其他命运（命运）”的一种手段。相比之下，人工智能系统关注的是生活在贫困中的女孩和妇女，没有社会背景。将这些青少年的命运与怀孕的“宿命”联系起来，它给出了秘密的预测。与此同时，索科罗·罗莎和其他女权主义活动人士的工作假设是，女孩和妇女被卷入更大的政治体系，社会变革是可能的。

在解决少女怀孕问题和其他社会问题方面，阿根廷的女权主义者努力使所有人都能获得知识和数据，并促进团结和赋权的形式，而不是监督和控制。这为如何处理复杂的社会问题提供了一个重要的模式：参与、背景和透明度。这些价值观应该为卫生技术的设计提供信息。

欧盟和美国正在制定审计算法系统的具体计划。人工智能影响评估必须考虑社会背景和生活经验。一个尺码不适合所有人。微软平台在萨尔塔造成的危害可能与该公司所在地雷德蒙德不同。当地社区和活动人士对人工智能系统对他们生活的社会影响有着至关重要的见解。他们也有抵抗和动员的策略，可以扩大和传播。阿根廷的女权主义者可能会引发另一波抵制浪潮，这一次是为了改变我们与人工智能的相处方式并评估其危害——从歧视性和危险的人工智能中“粉红救援”。

作者希望感谢AI的历史：剑桥大学的权力谱系研讨会，为这项研究提供慷慨的反馈。

💻 使用Gear团队最喜爱的笔记本电脑、键盘、打字替代品和降噪耳机升级您的工作游戏