谷歌因人工智能偏见研究而陷入困境

在互联网组织阻止发表有关重要的人工智能伦理问题的论文后，谷歌周四努力限制高级人工智能研究人员离职的影响。

谷歌AI道德共同负责人蒂姆尼特·格布鲁（Timnit Gebru）在Twitter上表示，在论文被拒绝后，她被解雇了。

Google的AI负责人Jeff Dean在周四给员工的内部电子邮件中为这一决定辩护，称该论文“没有达到我们的出版标准。”他还称格布鲁女士的离职是辞职，是对Google拒绝承认她原本打算留在公司的未指定条件的回应。

这场争端威胁着对谷歌处理内部AI研究的严厉批评，这可能会损害其业务，以及该公司在努力实现员工多元化方面长期存在的困难。

在离开之前，格布鲁女士在一封致同工的电子邮件中抱怨称，谷歌内部声称公司希望增加女性在女性队伍中的比例，而谷歌内部对此实行“零责任”。该电子邮件最初在Platformer上发布，还描述了将她的论文屏蔽的决定，这是“使边缘化的声音保持沉默”过程的一部分。

一位与格布鲁女士紧密合作的人说，过去谷歌管理层一直在为推动更大的多元化而采取积极行动，因此一直存在紧张关系。这位人士补充说，但她离职的直接原因是公司决定不允许发表她与他人合着的研究论文。

本文研究了自然语言研究最热门的新领域之一-大规模语言模型中的潜在偏差。诸如OpenAI的GPT-3和Google自己的系统Bert之类的系统试图预测任何短语或句子中的下一个单词-一种已被用来产生令人惊讶的有效自动书写的方法，而Google则被用来更好地理解复杂的搜索查询。

语言模型接受了大量的文本训练，这些文本通常是从Internet上提取的，这已经发出警告，警告他们可能会反省基础培训材料中包含的种族和其他偏见。

华盛顿大学计算语言学教授艾米莉·班德（Emily Bender）说：“从外部看，谷歌的某个人认为这有害于他们的利益。”

“学术自由非常重要，[研究]在[没有]学术自由的地方进行时存在风险，”赋予公司或政府“关闭”他们不赞成的研究的权力她补充说。

班德女士说，作者希望及时更新论文，以便在已经提交的会议上予以接受。但她补充说，鉴于此类领域的工作进展迅速，通常会被较新的研究取代。 “在研究文献中，没有论文是完美的。”

谷歌的母公司Alphabet旗下的伦敦AI集团DeepMind的前AI研究人员Julien Cornebise表示，这场争端“显示出AI和机器学习研究集中在强大的行业参与者手中的风险。通过确定发布什么内容或不发布什么，从而允许对该领域进行审查。”

他补充说，格布鲁女士“非常有才华-我们需要在这些问题上研究她的能力，没有过滤器。”格布鲁女士没有立即回应置评请求。

迪恩先生说，与其他三名Google研究人员以及外部合作者共同撰写的论文“并未考虑到最近的研究来减轻”偏见的风险。他补充说，该论文“谈到了大型模型对环境的影响，但无视随后的研究显示出更高的效率”。

©2020金融时报有限公司。版权所有，不得以任何方式重新分发，复制或修改。