一位黑人AI伦理学家，她在Google和有争议的出发期间的经历
今年秋天初，A.I。伦理学家蒂姆尼特·格布鲁（Timnit Gebru）提交了一篇有关预测语言模型的论文，供学术会议审议：关于预测语言模型的环境成本，以及他们如何学习种族主义和性别歧视语言以及如何传播错误信息。自从她在Google任职以来，该公司首先想审查该论文（Gebru与她的几个同事写的论文）并签字。然后，高级管理人员告诉她，该论文没有到达Google的发布栏，因此她应该撤回该文件或删除Google员工的姓名。 Gebru希望更清楚地说明为什么要收回该信息，并说如果Google无法提供该信息，她将辞职。这开始了几天的争执和几封激烈的电子邮件，直到一位经理给Gebru的老板发电子邮件，说他们已经接受了她的辞职。格布鲁说，谷歌解雇了她。谷歌说她辞职了。那里有数千名员工代表她签署了请愿书。该公司的首席执行官不得不回答有关所发生情况的问题。格布鲁（Gebru）试图弄清楚她是少数几个在AI学习伦理学的黑人女性之一，她是如何到这里结束的。
在周二播出的《下一步：待定》的特别节目中，我与格布鲁（Gebru）谈了她在Google的经历，以及实际上导致她离开科技巨头的原因。为了清楚起见，我们的对话已经过编辑和压缩。 （我们与Google取得了联系，向他们询问了Gebru在该公司的经历以及她离开的情况，但没有记录下来的回音。）
每天从Mary Harris，Lizzie O’Leary及其团队获得更多新闻。
加入Slate Plus
订阅
Lizzie O’Leary：我想问你为什么首先要去Google工作。
Timnit Gebru：有两件事。我想做一个博士后，但我想回到海湾地区。另一个是Google明确表示希望在加纳的阿克拉建立Google Brain办公室。它应该是非洲的第一个办公室。所以我想为此提供帮助。
Google有没有人对您说：“这是我们遇到的问题”或“您在纸上放的东西会削弱我们的一种产品”？
我们进行的第一个对话是：您必须收回纸张。一些产品负责人认为缺陷太多。 [Google研究部负责人]杰夫·迪恩（Jeff Dean）在一封电子邮件中告诉我们，他在浏览后遇到了问题。我当时想，您认为它高估了什么？您建议什么样的变化？因此，在感恩节那天，我花了一整天的时间来编写这份经修订的文档，因为他们告诉我在星期五之前将其收回。而且，如果我要撤回论文，至少要了解之后会发生什么。我们是要尝试重写它，还是只是想杀死这条工作线？你想做什么？
星期一，我收到一封电子邮件，内容为：您可以确认您已收回纸张或将名字取下吗？我想，你在跟我开玩笑吗？我写了这本书，而您甚至都不承认我写了什么。就是这样。
真正惹恼Google的是您写给内部小组Google Brain Women and Allies的电子邮件。在那儿，您为纸张发生的事情以及您看到的对多样性的口头服务而感到沮丧。
我写了十亿份文件。我开会十亿次。他们只是让你疲倦。他们对与您见面感到很满意。他们什么也没做。然后，如果您尝试将其推到上面或告诉他们他们做错了什么，他们就会向您发出警惕。这件事发生在我身上很多次。现在没有任何东西可以激励他们去做一些不同的事情。但是，只要不鼓励领导人采取其他行动，这份文件就无济于事。会议不会有所帮助。没有任何帮助。所以这就是为什么我说他们应该专注于领导层问责制。
他们“立即”终止我的理由是电子邮件。电子邮件列表中的人都害怕说什么，因为，请记住，这是一个供妇女及其盟友使用的电子邮件列表，用于讨论该部门在多元化，包容性方面的问题。
您认为Google在知识分子和大学自由之间的界限是什么，可以进行这样的讨论和企业文化，而不要公开或大声地说出来？
我什至不认为这是企业文化。乔治·弗洛伊德（George Floyd）抗议活动发生后，我们全力进行了研究，人们在哭泣，人们如此激动。我们喜欢恳求领导者做一些不同的事情，因为我们太累了。我们概述了一系列原则-我们所说的第一件事是心理安全。如果您甚至没有心理上的安全感来讨论自己所面对的事情，那么就没有办法前进。无法解决您公司的文化。
说到领导者和问责制，您对[Google CEO] Sundar Pichai的发言有何看法，他说我们需要为一个杰出的黑人女性领导者拥有巨大才能而离开谷歌这一事实承担责任？
感觉那里有很多体操。如果他们不发表声明，他们看起来会很糟糕。声明后，他们看起来仍然很糟糕。他们基本上是在说我们为这次反冲表示歉意，因为我们对这种反冲并不满意，因为这种反冲意味着您正在质疑您是否仍在Google占有一席之地。这次罢工表明，它对Google有毒，对吗？
Pichai声明的另一部分说，对我来说重要的是，我们的黑人女性和代表性不足的Google员工知道我们重视您，而您确实属于Google。我想知道是什么让您感到被重视，因为当我听到您的声音时，我是如此清楚，以至于您觉得自己在外部受到了Google多元化的灯塔，却感到自己在内部受到削弱。
很明显，他们甚至都没有像对待我一样对待我，因为您会与任何人讨论事情，更不用说世界知名的专家了。您不仅可以订购它们。我一直在贬值。我的意思是，不断。进入Google的人告诉我，他们无法调和从外部看待我与在内部对待我的方式之间的差异。
我认为这主要是种族主义和性别歧视，即使是关于道德问题。他们拥有所有这些负责任的倡议，几乎没有黑人。那里的黑人一直很生气。我经常谈论所谓的降落伞研究和我的研究，这些人将您视为研究主题或类似主题，并按自己的意愿开展工作。哦，是的，就像想象中的黑人一样，他们是自然栖息地中的边缘化黑人。就像，我不知道，就像《国家地理》之类的东西，你知道，他们如何谈论你，而你只是坐在那里，我的天哪。他们得到了提升，他们发表了论文，并且不去承担后果。
正式地，不。我什至没有得到有关如何退还Google资产的说明。我相信他们已经核对了我，但我不知道如何打开我的工作计算机或类似的东西。我一直在查看我的电子邮件。我当然没有收到任何人的来信。
我是人 我笑着说话，我可以很外向。 当您被描绘成需要降级的这个不合理，愤怒的人时，那简直就是人性化。 它并没有讲述您经历过的事情以及您试图克服的事情。 Future Tense是Slate，新美国和亚利桑那州立大学的合作伙伴，研究新兴技术，公共政策和社会。
