(CNN Business)当卢克斯·斯塔克在11月份从谷歌寻求金钱时,他不知道他' D在3月份从科技巨头拒绝60,000美元。
西部大学助理教授,加拿大安大略省助理教授,研究了人工智能的社会和道德影响。 11月下旬,他申请了谷歌研究学者奖,一个无论是一个无线的研究资助,高达60,000美元,以支持早期的职业生涯。
他参加了这一奖项,他说,"因为我在谷歌建立一个非常强大,潜在的行业领先的道德AI团队的意义上。"
不久之后,这种感觉开始消散。 12月初,Timnit Gebru,谷歌和#39;伦理AI团队的联合领袖和一个主要的男性领域,突然离开谷歌。 12月2日星期三,她推文她已经被"立即发射"对于她发送到内部邮件列表的电子邮件。在电子邮件中,她表示令人沮丧的是,在公司持续缺乏多样性,并在内部过程中挫败了与审查关于建立更大的AI语言模型的风险的审查的内部过程 - 一种嗡嗡作响对Google' S巨大的搜索业务越来越重要。
当时,Gebru表示,谷歌AI领导告诉她撤回论文以考虑在会议上的演示文稿,或从中删除她的名字。谷歌表示,它接受了通过电子邮件发送的需求列表的Gebru'在需要满足她继续在公司继续工作的情况下。
Gebru'欧斯特赶出了公司的几个月长的危机,包括员工离开,领导地位播放,以及谷歌&#39的道歉,以及Gebru&#39的情况如何导致一些员工问他们那里的地方。谷歌对此事进行了内部调查,其结果在同一天宣布,该公司宣布甘肃队长,玛格丽特米切尔,玛格丽特米切尔在Gebru&#39之后一直批评公司。出口。 (谷歌被引用"它的行为准则。甘油和米切尔。
3月10日,当谷歌向他祝贺的纸张向他发表了祝贺的票据时,所有这一切都陷入了剧烈的重点,为他提供了60,000美元的研究项目的提案,这些项目将研究公司如何推出用于检测到情绪的AI。斯塔克表示,他立即觉得他需要拒绝奖励,以展示他对Gebru和Mitchell的支持,以及那些留在谷歌的道德AI团队中的人。
斯塔克是在学术界的越来越多的人之一,他们掌握了Gebru和Mitchell的出口,以获得近期决定本公司提供的资金或机会。一些AI会议组织者正在重新思考,将谷歌作为赞助商。此后,至少有一名学术界从谷歌宣布宣布他赢得了谷歌并在公司的财政支持之前获得了大型支票。
"在很好的良心中,我再也不能接受了以这种方式对待员工的公司的资金,而#34;德克萨斯大学奥斯汀的助理教授Vijay Chidambaram在研究存储系统的奥斯汀,告诉CNN业务。 Chidambaram于2018年从谷歌获得了30,000美元的研究项目。
所涉及的金钱对谷歌几乎没有结果。但是从谷歌和第39号队伍中扩大了堕落与伦理AI团队的紧张局势现在对公司的声誉和身份造成了危险的风险。这是谷歌对人才的重要意义 - 无论是作为公司的员工和在学术界都与之相关的名称。
尽管他的初步倾向,但Stark didn' t立即拒绝谷歌奖。他与同事谈到他计划做什么 - "人们支持我所做的任何决定,"他说 - 在汇集Google他的回复之前,他的回复是下面的周五。他感谢该公司为"信心表决"在他的研究中,但写道,他是"拒绝与DRS团结一致。 Gebru和Mitchell,他们的队友,以及所有的' ve的所有人都在CNN业务查看的电子邮件中,根据类似情况。
"我期待再次与谷歌研究合作的可能性,此时组织及其领导者在这种情况下反映了他们的决定,解决了他们造成的危害,并致力于并契约,促进支持股权和正义的关键研究和产品,"斯坦克写道。
他还发布了他的决定拒绝奖项,以使其公开,并指出许多人可以从谷歌或其他公司拒绝这样的资金。斯塔克能够放弃这笔钱,因为他的西部大学都足够资金。他说,谷歌奖项将提供额外的研究资金。
"我们所能做的就是我们可以合理地做的 - 这是我觉得我可以的东西,"斯塔克推特。
"它'对于谷歌赞助的人,&#39是一个非常巨大的交易。她告诉有关CNN的业务。 "特别是在他们的职业生涯早期的人。"
谷歌发言人表示,在过去的15年里,公司为谷歌以外的人提供了超过6,500多个学术和研究赠款。据发言人表示,斯塔克是第一个转动下来的人。
在Gebru离开谷歌之后,愤怒的第一个明显迹象是刚刚的。解读她的出发和苛刻的透明度关于谷歌的中等帖子,关于研究论文的决定迅速获得了学术和AI领域的谷歌员工和支持者的签名;到3月下旬,它的支持者人数已经膨胀到近2,700名谷歌员工,超过4300人。
3月初,艺妓和她的共陶司机的会议提交了论文,ACM关于公平,问责制和透明度,或FOCCT,与谷歌的赞助协议停止了。 Gebru是会议之一,创始人之一,并作为FacCT'第一委员会的成员。自2018年年度会议开始以来,谷歌一直是一家赞助商。迈克尔·埃克斯特兰·埃克斯特兰(Michael Ekstrand)ACM Facct网络的联合主席,确认了CNN业务,赞助被暂停,称该举动决定是"在社区的最佳利益"而且这个团队将" Revisit"其赞助政策为2022年。Ekstrand表示,Gebru没有参与决定。
此外,在三月,两位学者致力于推文抗议谷歌和#39;他们决定不参加在线举行的邀请机器人研究活动。哈斯斯克拉克斯特 - 康乃伊机器人教授,是其中之一;她说她在1月份被邀请,但随着活动更近的情况,更加沉默。
"这是一个真正的惨败方式[Gebru和Mitchell]治疗。没有人对他们道歉,甚至是#34;她在最近的采访中告诉了CNN业务。 "我不想与表现为顶级研究人员的公司互动。"
谷歌意识到它作为研究机构的声誉最近几个月受到伤害,公司已经说过了它的意图。在最近的谷歌市政厅会议上,首次报告的路透社和CNN业务也获得了音频,该公司概述了它的内部研究和出版规范。
"我认为重新获得信任的方法是继续在许多地方发布尖端工作,包括推动负责AI相关主题的界限,发布对研究界非常有趣的东西,我认为是继续成为研究领域的领导者的最佳方法之一,"杰夫院长,谷歌'艾的首脑。他正在回应关于外部研究人员的员工问题,说他们将从谷歌&#34阅读文件;现在有更多怀疑。"
Gebru希望像Facct一样,更多的会议将重新评估他们与科技公司的关系'研究实验室。从历史上看,在学术环境中进行了大部分工作,在AI的开发和研究中进行了。但由于公司发现了越来越多的商业用途,学术和企业世界之间的线条已经模糊。谷歌只是许多科技公司之一,挥舞着对其许多研究人员发表的学术会议的大量影响;文件;它的员工坐在会议委员会上,每年都赞助了许多会议,有时候是数万美元的曲调。
例如,谷歌和其母公司的一些子公司,字母表,被列为20,000美元"铂"和10,000美元"金"在2020年在2020年的机器学习国际会议或ICML和神经信息处理系统的会议上的级别赞助商 - 两个关键AI会议。以及一些公司'员工坐在他们的组织委员会上。
ICML主席John Langford表示,会议是"目前为赞助和#34开放;谷歌为其2021年会议提供了7月。
"有一点讨论何时透明,如何为会议鼓励良好的机器学习文化和习俗,并在未来的赞助政策中成为该讨论的一部分,"他加了。
Mary Ellen Perry的Neurips执行董事梅里斯表示,该会议' T但是,为赞助人员进行了年度呼吁,但请求"将针对今年到达的一套选择指南评估和#39; S赞助椅。 #34 ;; Neurips计划于12月。
然而,对于学术研究界的斯塔克和其他人来说,他们已经改变了从谷歌接受资金的标准。
"额外的研究金额将是伟大的," 斯塔克说。 "但这是我觉得我才能'"