人工智能研究员Timnit Gebru从Google辞职

感谢Platformer订户对独立新闻业的投资，该帖子可供所有人免费阅读。如果这项工作对您有意义，我邀请您今天成为订阅者。

上周，谷歌道德人工智能团队的一位著名联合领导向她的同事发送了一封电子邮件。 Timnit Gebru一直在研究一份她希望发表的研究论文，但遭到了她在Google上级的反对。因此，她向内部的列表服务Google Brain Women and Allies发了一封表示沮丧的信。

几天后，Gebru被解雇了。据报道，谷歌发现该电子邮件“与谷歌经理的期望不符”。它详细介绍了Gebru作为黑人在公司内部从事道德研究工作的领导者所经历的斗争，并对公司中代表性不足的少数派的前进道路提出了黯淡的看法。

Gebru在AI道德社区中广为人知并受到尊重；这是Shelly Banjo和Mark Bergen在彭博社的背景：

斯坦福大学人工智能实验室的校友格布鲁（Gebru）是人工智能伦理使用方面的领先声音之一。她因在2018年进行的具有里程碑意义的研究而闻名，该研究表明面部识别软件最多会在35％的时间内误认出肤色黝黑的女性，而该技术在白人男性上的精确度很高。

她还直言不讳地批评科技公司，尤其是Alphabet Inc.的Google缺乏黑人工人的多样性和不平等待遇，并说她相信解雇是为了向其他Google员工传达信息，而不是说出来。

Platformer收到了Gebru发送的电子邮件； Google终止了她的帐户后，她自己也无法访问她的帐户。它在下面完整发布。

Google并未立即回应置评请求。但是在星期四早上，谷歌研究部负责人杰夫·迪恩（Jeff Dean）通过电子邮件将其发生的情况告知员工。迪恩说，格布鲁已经发出最后通and，除非满足某些条件，否则他将辞职。 Platformer也获得了Dean的电子邮件；您可以在Gebru的下面找到它。

正如您可能知道的那样，在我在这里发表故事之后，我收到了所有的微观和宏观的侵略和骚扰（然后当然开始被缓和），我已经停止在这里写东西了。

但是最近，我正在撰写一份文件，关于凯瑟琳和达芙妮正在写文件的事实，令他们感到沮丧的是，在所有这些谈话之后，这个组织今年似乎雇用了14％左右的女性。据我了解，Samy已聘用了39％的员工，但他对此没有任何动力。

我想说的是停止写文档，因为这没有什么关系。我们不知道它们来自何处的DEI OKR（无论如何也从未遇到过），随机讨论，“我们需要更多的指导”，而不是“我们需要阻止有毒的环境阻碍我们前进”，战斗和教育由您自担，没关系。因为问责制为零。雇用39％的女性没有任何动力：当您开始倡导代表性不足的人时，您的生活会变得更糟；当其他领导者不想在校准过程中给您良好的评价时，您就会开始感到沮丧。没有更多的文档或更多的对话将无法实现任何目标。我们刚刚进行了一次黑人研究，如此激动地表现出了愤怒。你知道那之后发生了什么吗？以最基本的方式静音。

您是否听说过有人通过特权和机密文件将文件“反馈”给HR？这听起来像是您的标准程序，还是只是像我这样经常被人道化的人发生？

想象一下：您已向30多位研究人员发送了一篇论文，以征求反馈，您正在等待PR＆amp; amp;的反馈。在您撰写甚至说“我们正在考虑这样做”的工作之前，您曾提出建议的政策，正在制定修订计划，以解决如何解决人们的不同反馈，而PR＆amp; amp;除他们之外的政策要求您更新（在2个月内）。外出度假一周前，您会在日历中的太平洋标准时间下午4:30弹出会议（该会议在下午2点左右弹出）。没有人会提前告诉您会议的内容。然后，在那次会议中，经理的经理告诉您“已经决定”，您需要在下周（11月27日）之前撤回这份文件，这几乎是每个人都缺席的一周（日期与会议无关）处理）。您不值得对此进行任何讨论，因为您不是被该公司认可或重视其人性（更不用说新闻工作者，政府，科学家，民间组织（如电子前沿基金会等）认可的专业知识）的人。

然后，您要求更多信息。存在哪些具体反馈？它是谁来的？为什么现在？为什么不以前呢？你能和任何人来回吗？您能理解到底是什么问题以及可以更改的问题吗？

一段时间后，您会被告知，您的经理可以为您阅读一份特权和机密文件，甚至您都不知道是谁为该文件做出了贡献，由谁撰写了此反馈，遵循了什么流程或执行任何操作。您编写了一份详细的文档，讨论了您可以找到的任何反馈，提出问题和澄清问题，而这完全被忽略了。再一次，您遇到了一个命令，该命令以无任何接触的方式收回纸张。

然后，您尝试进行对话，讨论这是不可接受的，然后人们开始做任何自我反思的对立面，试图寻找罪魁祸首。

像这样使边缘化的声音静音与我们讨论的NAUWU原则相反。在“负责任的AI”背景下这样做会给伤口增加很多盐分。据我了解，对Google来说，唯一有意义的就是水平，我已经知道我的专业知识是如何被完全淘汰的。但是，现在又增加了一层，表示任何特权人员都可以通过零对话来决定他们不希望您的论文发表。这样一来，您就无法在研究社区中表达自己的声音，因为您所做的工作是在这里面临的其他边缘化问题的基础上进行的。

人们总是可以继续做这样的事情，然后转身问我一些额外的DEI工作或意见，我总是感到惊讶。去年发生在我身上。我正处于潜在的诉讼中间，凯特·赫勒（Kat Herller）和我聘请了女权主义律师，他们威胁要起诉谷歌（当时他们退缩了），然后谷歌律师准备把我们扔下车，而我们的领导者则紧随其后。指示），第二天我便获得了一些随机的“影响力奖”。纯煤气灯。

因此，如果您想改变事情，我建议着重于领导层问责制，并思考可以从外部施加哪些类型的压力。例如，我认为国会黑人核心小组是开始迫使科技公司报告其多元化数字的实体。写更多的文件并一遍又一遍地说话会令您疲倦，但没人会听。

这是杰夫·迪恩（Jeff Dean）在星期四早上发送给Google员工的电子邮件。

我敢肯定，你们当中很多人都已经看到Timnit Gebru不再在Google工作。这是一个艰难的时刻，尤其是考虑到她所参与的重要研究主题以及我们对组织和公司作为负责人的AI研究的重视程度。

由于社交媒体上存在很多猜测和误解，因此我想分享更多有关如何实现此目的的信息，并向您保证我们将在继续进行您所从事的研究的过程中为您提供支持。

Timnit与四位Google同事以及一些外部合作者共同撰写了一篇论文，这些论文都需要经过我们的审查流程（所有外部提交的论文都是这种情况）。我们已经批准了Timnit和/或其他Google员工撰写并发表的数十篇论文，但是如您所知，这些论文在内部审核过程中经常需要更改（甚至被认为不适合提交）。不幸的是，这篇特定论文只在截止日期前一天的通知中被分享-我们需要两周的时间来进行此类审阅-然后无需等待审阅者的反馈，而是被批准提交并提交。

然后，跨职能小组审查了该文件，将其作为我们常规流程的一部分，并告知作者该文件不符合我们的出版标准，并得到了有关其原因的反馈。它忽略了太多相关的研究-例如，它谈到了大型模型对环境的影响，但无视随后的研究显示出更高的效率。同样，它引起了人们对语言模型偏见的担忧，但没有考虑到最近为减轻这些问题所做的研究。我们承认作者对我和梅根最终做出的决定感到非常失望，特别是因为他们已经提交了论文。

Timnit回复了一封电子邮件，要求她满足一些条件才能使她继续在Google工作，其中包括透露我和Megan谈话和咨询过的每个人的身份，作为本文审阅的一部分以及确切的内容。反馈。 Timnit写道，如果我们不能满足这些要求，她将离开Goog​​le并在结束日期工作。我们接受并尊重她决定退出Google的决定。

考虑到蒂姆尼特（Timnit）在我们的道德AI团队中受人尊敬的研究人员和经理的作用，我感到非常遗憾，蒂姆尼特（Timnit）到了一个她对我们正在进行的工作有这种感觉的地方。我还感到非常遗憾的是，你们中的数百人刚刚在本周收到了Timnit的一封电子邮件，通知您停止进行关键的DEI程序。请不要我了解进度的挫折感，但是我们有重要的工作要做，我们需要继续努力。

我知道我们所有人都真诚地分享Timnit致力于使AI更加公平和包容的热情。毫无疑问，无论她追随Google的何处，她都会做得很好，我期待着阅读她的论文，看看她的成就。