超过1,200名Google员工谴责解雇AI科学家Timnit Gebru

2020-12-05 08:29:14

超过1200名Google员工和1,500多名学术研究人员在抗议活动中表示抗议,此前一位研究人工智能伦理的著名黑人科学家表示,在公司试图压制她的研究后,她被Google解雇,并批评了其多元化努力。

Google Ethical AI团队的技术联席主管Timnit Gebru周三在Twitter上写道,在向内部AI小组的女性和同盟发送电子邮件后,她被解雇了。

该电子邮件最初是由技术通讯Platformer发布的,其中提到了有关某研究论文的争议,但更广泛地表达了对Google多元化计划的不满。在其中,Gebru认为“零责任制”或Google领导改变的真正动力。 “当您开始倡导代表性不足的人时,您的生活会变得越来越糟,您开始使其他领导人感到沮丧,” Gebru写道。 “没有更多的文档或更多的对话将无法达成任何目标。”

Gebru是从事AI工作的最著名和最受尊敬的黑人女性科学家之一。在加入Google之前,她与人合着了2018年被广泛引用的论文,发现肤色较深的女性面部分析技术的错误率更高。她还与他人共同创立了非营利性组织AI领域的黑人组织,该组织旨在增加有色人种在该领域的代表性。

Gebru告诉Wired,有关Gebru的研究的争议始于11月,当时Google的一位高级经理告诉Gebru,她将不得不撤回或从她合着的论文中删除自己的名字。该论文由Google内部和外部的研究人员共同撰写,认为技术公司可以做更多的工作,以确保旨在模仿人类写作和语音的AI系统不会加剧历史性别偏见和令人反感的语言的使用。路透社

她告诉《连线》杂志:“我觉得我们正在受到审查,并认为这对所有道德AI研究都有影响。” “您不会拥有使公司始终保持快乐并没有指出问题的文件。那与成为那种研究者意味着什么相反。”

Gebru告诉《连线》杂志,她试图与Google进行谈判,提出将她的名字从报纸上删除,以换取对该公司反对意见的完整解释,并讨论了将来处理此类问题的更好程序。如果公司拒绝,她将安排在以后离开。

Google拒绝了她的请求,在Gebru发送了有关多元化工作的沮丧电子邮件之后,该公司给她的团队发送电子邮件说接受了她的辞职。他们还切断了她对公司电子邮件的访问权限。 Google坚持认为Gebru辞职。

Gebru的突然离职,在Google和更广泛的AI研究社区中掀起了一阵冲击。 NAACP法律辩护和教育基金会主席Sherrilyn Ifill在推特上写道,格布鲁的开枪“绝对令人生气”和“一场灾难”。超过1,200名Google员工和来自学术界和民间社会的1,500多名支持者签署了抗议信。

该组织在组织罢工的小组发表的信中说:“解雇是对格布鲁博士的报复行动,它预示着道德操守的人以及在整个Google从事AI工作的人们(尤其是黑人和有色人种)的危险。” Google对公司对性骚扰和性别歧视的待遇。

“在Google的公司研究环境中,研究完整性不再是理所当然的,而Gebru博士的解雇已经推翻了对Google允许进行何种研究的有效理解。这也是Google之外无法估量的时刻。”

Gebru的突然离职加剧了多年来对AI部门和Google其他组织的多样性的焦虑,包括多次辞职和解雇,以及公司为减少其服务的潜在危害所做的努力是否足够。

就在星期三,美国国家劳工关系委员会(National Labour Relations Board)发出投诉,指控Google非法监视和质疑几名工人,然后这些工人因抗议公司政策和试图组织工会而被解雇。

Google AI部门负责人Jeff Dean在Platformer获得的电子邮件中告诉员工,该研究论文“没有达到我们的出版标准”。白人和男性的迪安(Dean)也向格布鲁(Gebru)的男女同盟小组致信,写道:“我也感到非常遗憾的是,你们中的数百人仅在本周收到蒂姆尼特(Timnit)的一封电子邮件,告诉您停止重要的DEI计划。请不要。”

周五,迪恩(Dean)发布了一份关于格布鲁(Gebru)辞职的更长的声明,他继续称辞职。 在文章中,他重申了自己的论点,即该论文未充分提及Google为减轻计算对环境的影响或其减轻AI偏见的努力。