谷歌与AI研究人员毒害了它的声誉

跳到主要内容谷歌已经工作了多年来将自己定位为AI的负责任的管家。其研究实验室聘请了尊敬的学者，出版了突破性的论文，并在该领域最大的会议上操纵了议程。但现在它的声誉非常糟糕，也许不可逆转地损坏，正如公司正在努力在其数据帝国上留下政治上可口的脸部。

该公司对火灾吉布鲁和玛格丽特米切尔的决定 - 其两项最高的AI伦理研究人员，他们恰好审查了谷歌搜索产品的技术的缺点 - 已触发抗议的波浪。学者以各种方式注册了他们的不满。两次退出谷歌研究研讨会，三分之一拒绝了该公司的60,000美元的授权，并将未来的第四个不接受其资金。两名工程师辞去了玉米布鲁治疗抗议的公司，刚才是谷歌顶级AI员工之一，是一名名为萨默·格良的研究经理，辞去了数百名工人辞职。 （Bengio没有提到一封电子邮件中宣布辞职的火灾，但早些时候说，他被甘油发生的事情“震惊了”。）

“它令我责任他们愿意抑制科学的意愿”

“它不仅让我对公司内部伦理和多样性的承诺来说，”德克萨斯大学德克萨斯大学助理教授的善于质疑，“奥斯汀队德克萨斯州的奥斯汀教授们讲述了。 “但它令我责任他们愿意抑制与他们的商业利益不一致的科学的意愿。

“这绝对伤害了他们在公平和AI道德空间的信誉，”Mozilla基金会的家伙们，Deb Raji说，他是AI问责制的责任。 “由于行业参与研究，我认为机器学习界已经非常开放利息冲突。”

Niekum和Raji以及谷歌内外的许多其他人都受到了Gebru和Mitchell，该公司道德AI团队的联合领导者发生了震惊的。去年12月在与经理的论据争论的研究论文中，他共同撰写了米切尔和其他人的争论。 （谷歌纠纷了这个帐户，并说Gebru辞职。）米切尔于2月被解雇，在她的电子邮件中寻找对抗Gebru的歧视证据。问题中的论文在大规模的AI语言模型中检查了问题 - 现在支持谷歌利润丰厚的搜索业务的技术 - 并导致抗议以及公司正在抑制研究的指控。在12月被谈判之后，谷歌宣布了与她和批评“前所未有的研究审查”的中等职位签署了近2,700名员工，超过4,300名“学术，行业和民间社会支持者”。

它可能会有更抗议和更突的辞职。在Bengio离开了公司之后，米切尔推特，“现在的辞职BC人们在我们被解雇后不久就开始采访”，“职位优惠刚刚开始就开始采访;更有辞职可能。“当被要求评论本断中突出显示的这些和其他问题时，谷歌只提供了样板响应。

今年早些时候抗议公司的员工之一是大卫贝克。他于2004年开始在谷歌上班，当他于2月辞职时，他是其信托＆amp的总监。安全工程集团。他讲述谷歌对甘油的治疗（在米切尔被解雇之前离开的人）严重震动了他对公司的信心。

“我只是盲目看看并听到Timnit发生的事情，”Baker告诉边缘。 “它伤了我的心。”他补充说，他没有考虑辞去的决定：他喜欢自己的工作，并指他在公司的最后几年是“我生命中最幸福的日子”。但他说，戒烟是最不可能的，他能够与甘油团结一致。 “我花了几个星期的思考并与我的妻子谈话，最终决定我无法让自己回去工作。”

贝克只是一个感觉谷歌失望的人，但他的反应表明，即使与高级员工也损坏了公司的立场。信托＆amp; Baker监督谷歌的安全团队在Google上的一系列重要安全问题中，从Gmail上解决垃圾邮件，从公司的广告平台中删除诈骗。 “我们在整个应用程序的幕后，”正如贝克把它所说的那样。他补充说，虽然他个人没有亲自与甘油或米切尔合作，但他的团队成员从他们那里学习了他称之为AI安全的“新兴纪律”的一部分。

“谷歌的多样性失败将导致其研究中的失明表”

由于公司集成了更深的产品，因此AI安全将为谷歌融入谷歌更重要。探测这些系统的局限性 - 不仅仅是从技术角度来看，而且是一个社会的视角 - 是甘肃和米切尔的工作。虽然它在谷歌的利益中找到了自己的技术中的弱点，但似乎公司不想听到员工不得不说的一切。

贝克说，虽然他总是被谷歌在信托＆amp内的诚信放心;安全组（“我们非常专注于用户对用户有权，这不是最适合品牌的”）甘肃的待遇使他怀疑公司是否能够达到最佳意图。

贝克说：“我认为它肯定会责备古老地区的诚实地质疑其技术的道德应用。” “而谷歌的多样性失败将导致其研究中的失明表。现实是谷歌不是来自所有背景的人可以茁壮成长的地方。“

研究人员和学术界濒临谈论这个故事突出了两个不同但与谷歌的行为有关的关注。

首先是对个人的玉布和米切尔的治疗以及该公司对公司的承诺作为雇主的承诺。谷歌在招聘和保留少数人才有良好记录的问题，这是其失败的另一个例子。对该公司AI研究的可信度的更广泛问题以及公司是否可以公平地审查其技术的潜在危害。在Gebru和Mitchell的工作情况下，这意味着大规模语言模型构成的损坏。

所有接受这个故事的人都强调他们并不怀疑个人谷歌研究人员的完整性，但担心公司的内部结构 - 包括其论文的审查过程 - 正在巧妙地扭曲他们的工作。

“我相信他们出版的事情是正确的，但我不相信他们没有被审查，”康斯特·克拉克斯 - ·普兹蒂特（康奈尔）机器人教授与斯科特抵制斯科特，告诉边缘。 “这将是真相，但不是整个事实。”

谷歌研究的塑造之一是融合企业兴趣的是通过公司的内部审查流程。去年12月，路透社报告说，谷歌在2020年为“敏感主题”创造了新的审查水平。如果研究人员正在写作情绪分析，面部认可，性别，种族或政治的分类，他们必须咨询谷歌的PR团队和法律顾问将关注他们的工作并建议改变。

路透社引用的内部通信包括一名高级谷歌经理告诉论文的作者“非常小心地击中积极语气”的反馈。编辑了另一篇论文以删除对谷歌产品的所有参考，另一种方法可以删除与新研究相关的法律风险提到 - 包括对用户个人数据的风险。

在对普遍的声明中，谷歌表示：“我们的研究审查流程从整个研究组织和谷歌的各种主题专家都参与了各种各样的主题专家，包括社会科学家，伦理学家，政策和隐私顾问，以及人权专家，并拥有帮助改善我们的许多出版物和研究应用程序。“

但正如米切尔去年告诉路透社（当时她仍然被谷歌雇用）：“如果我们在鉴于我们的专业知识上研究相应的事情，我们不允许在不符合高质量同行评审的理由上发布，然后我们陷入了审查的严重问题。“

Mitchell的担忧是由导致她和Gebru离开的论文的性质来证实。该研究远远不提供有争议的或意外评估，概述了现有批评。其中一个标记（以及研究的彻底性）是本文以其原始形式引用了128篇以前的出版物 - 在AI会议神经潮端的论文公布的六倍以上。

本文称，与许多算法一样，AI语言模型具有在培训数据中发现的“微妙偏见和公开辱骂语言模式”的趋势，并且由于创建这些模型所需的计算能力，它们具有环境所需的计算能力成本。这些不是争议的观察结果，甚至本文批评都赞扬了其普遍论点。通过计算机科学家Yoav Goldberg对纸张的成品版本的一个广泛共同评估，指出，它“需要片面的政治观点”，而且超越了规模问题，但补充说：“我也同意并赞同大多数内容。这是重要的东西，你应该阅读它。“

这使谷歌对纸质不寻常的反对意见。公司的AI，Jeff Dean表示，该文件“没有符合我们的出版物”，并“忽略了太多相关的研究”，了解它突出的问题可能会减轻。但对于许多人来说，包括谷歌的员工，这些反对意见响了假。作为谷歌脑蒙特利尔的一名研究人员，尼古拉斯·勒罗克，在推特上评论：“我的提交总是检查披露敏感材料，从不用于文献审查的质量。”

连接到谷歌的纸质本身是对个人的治疗，以及该公司对黑人和女性研究人员的态度。 “在这些人被驳回，贬值或歧视的环境中，他们的工作 - 这些领域的这些有效批评 - 也被诋毁并被解雇，”Raji说。 “即使他们对该空间的一些最重要的贡献，淡化的声音也更加普遍发挥这些批评。”

这种动态不是新的。 Raji通过研究员Joy Buolamwini赋予了2018张称为性别阴影的纸张的例子 - 现在被认为是面部识别中性别和种族偏见的地标批判。 “着名，本文几乎没有在会议上介绍，因为它被驳回太简单，”拉吉说。出版后，性别色调对该行业和社会大作出了巨大影响。它引发了关于面部认可的效用的政治辩论，提示微软等公司重新评估其技术的准确性，与其他人像IBM一样。

换句话说：它显着改变了大型技术公司的政治景观和优先事项。这是权力和影响，正确的纸张在正确的时间可以拥有，而对于许多人来说，这解释了为什么谷歌是如此热衷于关闭甘肃的批评。

正如raji票据，大部分重要的工作都是由技术公司未被待遇的小组完成的。她说，这种动态 - 解雇了导致他们工作的个人 - 与谷歌对甘油的治疗相比，参战。 “他们真的很容易发火，因为他们没有重视她正在做的工作，”她说。

尽管许多研究人员所阐明的愤怒和悲伤，但勃尔格谈到，其他人对最近的事件更加矛盾。他们表示，它不会影响他们在将来与谷歌合作的意愿，并指出的是研究的干扰是在工业实验室工作的价格。许多人表示他们认为这个问题唯一的解决方案是更好的公共资金。

一位美国大学的一位AI教授，他们以前收到谷歌的资金资助研究并希望成为匿名的，他告诉濒临遵守，他可以理解为什么人们希望抗议公司，但表示在学术界寻找资金将始终强迫研究人员转向潜在妥协的来源。

“我不能真正定义一个连贯的道德或道德地位，说它可以从国防部接受资金而不是谷歌，”通过电子邮件向教授说。 “换另一种方式：如何接受（或避免您的凝视）国防部犯下的暴行（在世界各地以及涉及其自己的人的人力资源问题方面），但在谷歌与当前案件中绘制该线路？ “

另一位研究员曾希望是匿名的，并指出，在公司实验室工作始终是学术自由和其他特权之间的权衡。他们表示，谷歌并不孤单地在责任地处理研究人员并指出微软在2014年突然的决定关闭整个硅谷实验室，射击了50多名领先的电脑科学家，具有很少的警告。

但是，通过一些措施，谷歌是一个特殊的案例，并且挥舞着在某种程度上没有其他公司在过去的情况下宣传AI领域的影响。首先，谷歌发生了丰富的两种资源，近年来有了一个有源Ai的上升：丰富的计算能力和数据。其次，公司已经陈述了时间和时间，即AI对未来的盈利至关重要。这意味着它是直接投资于该领域，这些方式与其提供资金，例如计算神经科学。这是自身利益和技术优势的这种组合，使其能够和动机指导，在某种程度上，学术研究的参数。

“他们有这种巨大的影响力，因为他们的资金的结合，他们掌握了他们掌握的媒体影响力，以及他们在制度的论文和审稿人方面的巨大存在，”niekum说。但他补充说，这种批评可以很容易地应用于其他大型技术公司。

无论谷歌参与AI研究的情况如何，很明显，该公司随着对Gebru和Mitchell的治疗而显着损害了其声誉。计算在长远来看，这些效果事件的效果事件是不可能的，但在短期内，谷歌在其AI工作中侵蚀了信任及其支持少数民族声音的能力。自我审查的指控也将破坏它可以调节自己的技术的声明。如果谷歌不能值得信任审查自己的AI工具的缺点，政府是否需要仔细看待他们的工作？

一切都是如此，那些抵制谷歌讲习班并拒绝其资金的人知道他们的行为比其他任何事情更象征。 “与谷歌合作的人数与谷歌兼职约会的学者人数相比，这是海洋中的一滴水，”克拉克斯 - 吉他说。但是，他们仍然确定，以申请谷歌将弥补问题。自甘油和米切尔的射击以来，该公司已任命一名新员工Marian Croak，以监督其负责任的AI举措。它还调整了论文的审查流程（但没有关于改变或为什么）的详细信息。对于那些对公司生气的人来说，它需要更多地做得更多，包括提供真正的透明度，并公开向Gebru道歉。

对于别人来说，它完全太晚了。靠近Gebru的Raji说，由于观察谷歌过去几个月的谷歌对待她的朋友，她改变了他们的思想，并决定在学术界追求职业生涯。

“在此之前，我对这些AI道德问题的行业研究发生了更多的信任，”她说。 “这整个情况表明，在工业中，还有很多文化动态仍在游戏中，您仍然仍然看到领导关注这些问题。作为少数妇女，你将处于不利地位并以某种方式不尊重。而且我只是没有为此做好准备。“

这是一个有才华的研究人员，科技产业已经失去了。它不会是最后一个。

游戏AMD现在提供Ryzen 5000处理器，具有集成的GPU，但您不能购买它们

查看技术中的所有故事