停止谈论ai道德。 是时候谈论权力了

在20世纪之交，德国马以风暴带走了欧洲。聪明的汉斯，因为他所知道的，似乎可以似乎对人类限制的各种技巧。他可以添加和减去数字，告诉时间并读取一个日历，甚至通过用蹄子冲压答案来阐明单词和句子。 “a”是一个水龙头; “B”是两个; 2 + 3是五。他是一个国际轰动和证据，许多人相信，动物可以被教导理性和人类。

问题是聪明的汉斯并没有真正做这些事情。由于调查人员后来发现，这匹马已经学会了通过观察他的提问者姿势，呼吸和面部表情的变化来提供正确的答案。如果提问者站在太远，汉斯将失去他的能力。他的智慧只是一种幻觉。

在评估其算法的能力时，这个故事被用作AI研究人员的警示故事。一个系统并不总是像智能一样聪明。小心衡量它。

但在她的新书中，领先的AI Scholar Kate Crawford在它的脑袋里翻了一番。她写的问题是，随着人们定义了汉斯的成就：“汉斯已经表现出漫画的沟通，公共表现和大量耐心的卓越壮举，但这些并未被认为是智力。”

因此，开始克劳福德的探索进入人工智能史及其对物质世界的影响。每一章都旨在通过揭幕我们查看和定义它的狭窄方式来扩展我们对技术的理解。

克劳福德通过将我们的全球旅途带来了这一点，从电脑制造中使用的稀土元素提取到亚马逊履行中心的矿区，人体在该公司在公司的不懈追求增长和利润中的机械化。在第一章中，她述评从硅谷的核心区驾驶一辆面包车到内华达州内华达州克莱顿山谷的小型矿业社区。她在那里调查获得锂电锂的破坏性环境做法，这些思考为世界电脑提供动力。这是这两个地方在物理空间中有多近的有力说明，但它们有多远离他们的财富。

通过在这种身体调查中进行分析，Crawford处理了人工智能在“云”中运行的高效软件的委婉框架。她的特写镜头，对地球和劳动力AI的生动描述建立在上面，它背后的深刻有问题的历史，使得不可能纯粹在摘要上纯粹地谈论该技术。

例如，在第四章中，Crawford将我们带到另一个旅行 - 这是一个通过时间而不是空间。为了解释该领域对分类的痴迷的历史，她访问了费城的宾馆博物馆，在那里她盯着行和行人的头骨。

由撒母耳莫尔顿（Samuel Morton）收集的颅骨是一名19世纪的美国颅脑学家，他们认为有可能“客观地”将它们的物理测量分为世界的五个“比赛”：非洲，美洲原住民，白种人，马来语和蒙。 Crawford在Morton的工作和现代AI系统之间绘制了相似之处，并继续将世界分为固定类别。

她争辩说，这些分类远非客观。它们征收社会秩序，归化层次，并放大不等式。通过该镜头看到，AI无法再被视为目标或中性技术。

在她20年的职业生涯中，Crawford争论了大规模数据系统，机器学习和人工智能的真实后果。 2017年，随着梅雷迪思惠特克，她现在将研究机构AI赋予了尊敬的第一组织，致力于研究这些技术的社会影响。她现在也是洛杉矶苏尔安那堡的教授，洛杉矶和奥基尔·斯科德·斯佩里氏岛的首届奥基尔官僚主义主席，以及微软研究的高级首席研究员。

五年前，克劳福德说，她仍在努力介绍数据和艾没有中立的思想。现在，谈话已经发展，AI伦理已经蓬勃发展进入自己的领域。她希望她的书将帮助它进一步提高。

你为什么选择做这本书项目，它对你意味着什么？

Crawford：这么多写关于人工智能的书真的只是谈论非常狭隘的技术成就。有时他们会写下AI的伟大男人，但这就是我们在真正争夺人工智能的方面所拥有的。

我认为这是对人工智能的纯粹技术系统产生了这一非常倾斜的理解，这些系统是某种目标和中立的，而且 - 作为斯图尔特·罗素和彼得诺维格在他们的教科书中发言 - 作为做出任何可能行动的最佳决定的智能代理。

我想做一些非常不同的事情：真正了解人工智能如何在最广泛的意义上做出。这意味着看着推动它的自然资源，它消耗的能量，沿着供应链的隐藏劳动力以及从每天使用的每个平台和设备中提取的大量数据。

在这样做，我想真的对AI的理解，既不是人为的也不是聪明。这与人工相反。它来自地壳的最具物质部位，从人体劳动中劳动，以及我们每天生产和说和拍照的所有伪影。这两者都不是聪明的。我觉得这个领域的这个伟大的原始罪恶，人们认为计算机是某种方式像人类的大脑一样，如果我们只是像孩子一样训练他们，他们将慢慢地成长到这些超自然的生物中。

这是我认为真的有问题的事情 - 在实际情况下，我们已经购买了这个智慧的想法，我们只是在规模上看出统计分析的形式，这是一个与它所给予的数据一样多的问题。

这对你来说是立即显而易见的是，这就是人们应该如何考虑ai？或者是旅程？

这绝对是旅程。我会说我的一个转折点为2016年回来了，当我开始一个名为“AI系统的解剖学”的项目，与Vladan Joler。我们在一个专门关于启用语音的AI的会议上遇到了会议，我们试图有效地绘制制作亚马逊回声工作所需的内容。什么是组件？它如何提取数据？数据管道中的层是什么？

我们实现了，实际上，了解到，您必须了解组件来自哪里。芯片在哪里产生了？矿山在哪里？它在哪里闷闷不乐？物流和供应链路径在哪里？

最后，我们如何追踪这些设备的生命结束？我们如何看待电子废物提示位于马来西亚和加纳和巴基斯坦等地方的地方？我们结束的是这次非常耗时的两年的研究项目，真正将这些物质供应链从摇篮到坟墓。

当您开始在那种更大的尺度上查看AI系统时，并且在那个较长的时间范围内，您将从这些非常狭窄的“AI公平”和“道德”的账户转移，以便说：这些是产生深刻和持久的地貌变化的系统我们的星球，以及增加我们在世界上已经拥有的劳动力不平等的形式。

因此让我意识到我必须从一个分析中转移到一个设备，亚马逊回声，将这种分析应用于整个行业。对我来说是这是一个大的任务，这就是为什么Ai的阿特拉斯花了五年来写作。实际上需要看看这些系统真正花费的东西，因为我们很少能够实际理解他们真正的行星含义的工作。

另一件事我会说这是一个真正的灵感来源是越来越多的学者领域，他们在劳动，数据和不平等上询问这些更大的问题。在这里，我在想Ruha Benjamin，Safiya Noble，Mar Hicks，Julie Cohen，Meredith Broussard，Simone Brown-List亮相。我认为这是通过培养连接环境，劳动权和数据保护的观点来对该知识体系的贡献。

你在整本书中旅行了很多。几乎每个章节都与你开始，实际上在周围环顾四周。为什么这对你很重要？

它是一个非常有意识的选择，对特定地方的AI分析进行分析，远离这些摘要“Newheres”的算法空间，在那里围绕机器学习的许多辩论发生。希望它突出了这一事实，即我们不这样做，当我们谈论这些“无处空间”的算法客观性时，这也是一个政治选择，它具有后果。

在将位置线一起线程中，这真的是为什么我开始思考图拉斯的这种隐喻，因为地图集是不寻常的书籍。他们是书本，你可以打开并看看整个大陆的规模，或者你可以放大并看看山脉或城市。他们以透视和尺度转移给您这些班次。

有这条可爱的线，我在物理学家Ursula富兰克林中使用的书。她写了关于地图如何在这些集体洞察力的方法中加入所知和未知。所以对我来说，它真的借鉴了我所拥有的知识，而且还思考了从岩石和沙子和石油那里非常字面构建的实际位置。

我在早期反应中感到惊讶的事情是人们真的觉得这种观点逾期。有一刻的认可，我们需要有不同的对话，而不是过去几年的谈话。

我们花了太多时间，专注于AI系统的狭窄技术修复，始终居中技术答案和技术答案。现在我们必须与系统的环境足迹争辩。我们必须争辩于这些系统建设中发生的非常真实的劳动力开采。

我们现在也开始看到当你可以尽可能多地撕掉互联网的数据时会发生什么毒性遗产，并只称之为原谅。这种有问题的框架已经产生了如此多的危害，并且一如既往地，这些危害都被最边缘化的社区所拥有的，并且没有经历这些系统的福利。

希望拥有这些CUL-DE-SAC对话的术语，如“道德”和“良好”的条款，这将是一个艰难的事情，这对任何实际含义都如此完全变化。我希望它能够拉开窗帘说，让我们实际上看看谁在运行这些系统的杠杆。这意味着转移远离专注于谈论权力的道德原则。

如果在过去十年中有一个真正的陷阱，则改变理论始终是居中的工程。一直是，“如果出现问题，那么它有一个技术修复。”只有最近我们开始看到宽泛为“哦，很好，如果有问题，那么条例可以解决它。政策制定者有一个角色。“

但我认为我们需要进一步扩大这一点。我们还要说：民间社会团体在哪里，活动家在哪里，倡导者在哪里解决气候司法，劳动权，数据保护问题的倡导者我们如何在这些讨论中包含它们？我们如何包括受影响的社区？

换句话说，我们如何让这一点围绕这些系统如何影响数十亿人的生命来实现这一潮流的民主的对话，主要是不负责任的方式，这些方法在于外面的监管和民主监督？

从这个意义上讲，这本书正在努力去中心技术，并开始询问大问题：我们想要住在哪个世界？

你想住在哪个世界？你梦想着什么样的未来？

我希望看到一直在做出解决气候正义和劳动权在一起的问题的真正艰苦工作，并意识到这些以前的社会变革和种族司法方面具有真正共同的关注和共同的地面协调和组织。

因为我们在这里看一个非常短的时间。我们正在处理已经在严重应变的行星。我们正在考虑强烈的力量集中进入异常的手。你真的必须回到铁路的早期，看到另一个是如此集中的行业，现在你甚至可以说科技已经超越了这一点。

因此，我们必须抗议我们可以使我们的社会进行复数并具有更大形式的民主责任。这是一个集体行动问题。这不是一个个人选择问题。这不像我们选择架子上的更伦理的技术品牌。这是我们必须找到与这些行星规模挑战一起工作的方法。