Google承诺在内部叛乱后对研究监督进行变更

据路透社听到的一份市政厅记录显示，Alphabet Inc.的Google将在7月之前更改程序以审查其科学家的工作，这是努力平息内部对其人工智能（AI）研究完整性的骚动的一部分。

长达一个小时的录音显示，谷歌研究院高管在上周五的一次员工会议上表示，他们正在努力恢复信任，因为该公司罢免了两名杰出女性并拒绝了她们的工作。该消息的内容得到了两个消息来源的证实。

研究小组首席运营官麦琪·约翰逊在会议上说，研究小组已经在试用一份问卷，该问卷将评估项目的风险并帮助科学家进行审查。她说，这种最初的变化将在第二季度末推出，并且大多数论文都不需要额外的审查。

路透社在12月报道称，谷歌针对涉及中国或服务偏见等数十个问题的研究推出了“敏感主题”审查。据路透社报道，内部审查员要求至少修改三篇有关人工智能的论文，以免对谷歌技术产生负面影响。

谷歌负责该部门的高级副总裁杰夫·迪恩（Jeff Dean）上周五表示，“敏感话题”的审查“确实并且令人困惑”，根据录音，他已任命高级研究主管祖宾·格哈拉玛尼（Zoubin Ghahramani）为他澄清规则。

剑桥大学教授加哈拉玛尼（Ghahramani）于9月从优步科技公司（Uber Technologies Inc.）加入了谷歌，他在市政厅表示：“我们需要对自我批评研究的这种不适感感到满意”。

路透社看到的一封内部电子邮件提供了有关Google研究人员的新细节。关注的问题，准确显示了Google法律部门如何修改了三篇AI论文之一，这些论文被称为“从大型语言模型中提取培训数据”。 （bit.ly/3dL0oQj）

该电子邮件的共同作者Nicholas Carlini于2月8日发送了电子邮件，致数百名同事，以引起他们对公司律师所谓的“极度阴险”编辑的关注。

大约1200字的电子邮件说：“让我们在这里清楚。” “当我们作为学者写道我们有“担忧”或发现“令人担忧”的事情，而谷歌律师要求我们将其更改为听起来更好时，这就是老大哥介入了。”

根据他的电子邮件，需要进行的修改包括“从负面到中立”的互换，例如将“关注”一词更改为“注意事项”，将“危险”一词更改为“风险”。律师还要求删除对Google技术的引用；作者发现AI泄露了受版权保护的内容；邮件中说，还有“违反”和“敏感”两个字。

卡利尼未回应置评请求。谷歌在回答有关电子邮件的问题时质疑其关于律师试图控制报纸语调的说法。该公司表示，与本文调查的主题没有任何问题，但发现一些法律术语使用不正确，因此进行了彻底的编辑。

谷歌上周还任命了互联网音频技术的先驱，也是谷歌为数不多的黑人副总裁之一的玛丽安·克罗克（Marian Croak），以整合和管理10个团队，研究残疾人算法和技术中的种族偏见等问题。

克罗克（Croak）在周五的会议上表示，将需要时间来解决AI伦理研究人员的担忧，并减轻对Google品牌的损害。

她在录音中说：“请让我对试图扭转这种局面负全部责任。”

约翰逊补充说，人工智能组织正在引入一家咨询公司，以进行广泛的种族权益影响评估。她说，对该部门进行的首次此类审核将得出“很难的建议”。

在Google放弃了其道德AI研究团队的联席负责人Timnit Gebru拒绝了关于生成语言的AI的论文之后，谷歌在12月加剧了Dean部门的紧张气氛。布莱克（Gebru）是布莱克（Black），她当时指责该公司以不同的方式审查她的工作，因为她的身份和边缘化背景中的员工。近2700名员工签署了一封公开信，以支持Gebru。 （bit.ly/3us5kj3）

迪恩说：“我们希望进行负责任的AI和道德AI调查，”以研究技术的环境成本为例。他说，但是引用数据“相差近一百倍”是一个问题，而忽略了更准确的统计数据以及谷歌为减少排放所做的努力。迪恩（Dean）以前曾批评格布鲁（Gebru）的论文，其中没有包括对环境影响的重要发现。

盖布（Gebru）为论文的引用辩护。她告诉路透社：“对于谷歌在众多同行机构引用的一篇论文中，在防御上表现如此出色，这真是一个糟糕的样子，”她告诉路透社。

上个月，随着Google进行调查，员工继续在Twitter上发布他们的挫败感，然后解雇了道德AI联合负责人Margaret Mitchell，将电子文件转移到公司外部。米切尔（Mitchell）在推特上说，她的举动“引起了人们对种族与种族歧视的关注。性别不平等，并说出Google对Gebru博士的解雇问题。”

米切尔（Mitchell）在促使格布鲁（Gebru）离开的论文上进行了合作，该论文上个月在没有Google隶属关系的情况下在线发布，名为＆＃34; Shmargaret Shmitchell＆＃34;。作为合著者。 （bit.ly/3kmXwKW）

在征求评论时，米切尔（Mitchell）通过律师对迪安（Dean）对论文的批评感到失望，并表示在公司下令后她的名字被删除了。