一些谷歌伦理的AI团队的一些现有成员表示，他们已经在几个月内陷入了巨大的状态，并对谷歌是否可以重建可信度的严重疑问

星际AI伦理研究员Timnit Gebru表示，谷歌审查了一篇审查了一项为本公司关键产品的学术纸张的学术论文，该公司表示仍深入致力于道德AI研究。它承诺将其研究人员加倍研究负责任的AI至200人，首席执行官Sundar Pichah承诺他的支持，以资助提供更多道德AI项目。杰夫院士，公司的AI负责人表示，虽然甘草出发周围的争议是“声誉袭击”，但是时候继续前进。

但是，谷歌紧紧编辑的伦理AI集团的一些现有成员告诉回收现实与谷歌高管的实际不同是公开展示的。 10人组研究人工智能如何影响社会，是谷歌更广泛的新负责AI组织的细分。他们说，这支球队已经处于一个恒定的状态，并且他们有严重的疑虑公司领导人可以重建学术界的可信度 - 或者他们会倾听集团的想法。谷歌尚未为团队的两位前领导人雇用更换。许多成员感到如此漂流，他们每天召开一次私人消息集团，抱怨领导，以临时的基础管理自己，并寻求前老板的指导。有些人正在考虑在其他科技公司工作或返回学术界，并表示他们的同事正在考虑这样做。

“我们希望继续我们的研究，但是当这个月的几个月已经持续了这一点时，这真的很难，”伦理AI团队的研究员亚历克斯·汉娜说。尽管哈哈Nana补充说，个人研究人员正在努力继续工作并有效地管理自己 - 但如果条件不会改变，“我没有以任何实质性的方式看到谷歌的道德道德的大部分道路。 “

谷歌AI和研究部门的发言人拒绝评论道德AI团队。

谷歌拥有成千上万的研究组织，远远超过它所雇用的10人，专门研究道德AI。还有其他团队还专注于新技术的社会影响，但道德AI团队在培训AI模型的数据集中出版有关算法公平和偏见的突破性文件的声誉。该团队在学术界借鉴了谷歌的研究组织可信度，证明它是一个经验丰富的学者可以做尖端的地方 - 有时，关键 - 关于公司发展的技术研究。这对谷歌非常重要，一家公司数十亿人依靠每一天来导航互联网，谁的核心产品，例如搜索，越来越依赖AI。

虽然AI具有世界不断变化的潜力，有助于诊断癌症，检测地震和复制人类谈话，而发展技术也有能力放大针对妇女和少数群体的偏见，构成隐私威胁，并为碳排放有助于碳排放。谷歌有一个审查流程来确定新技术是否符合其2018年推出的原则。及其AI伦理团队应该帮助公司找到自己的盲点，并确保其负责任地发展和应用这项技术。但鉴于甘草的出发争议和其道德AI团队的动荡，一些计算机科学研究的学者们涉及谷歌在不充分解决内部反馈的情况下，在不充分解决内部反馈的情况下耕作世界变化的新技术。

例如，5月，谷歌被批评了宣布具有重要缺点的新的AI动力皮肤科应用程序：与较轻的肤色相比，它在其测试数据中大肆陈述了较暗的肤色。它是符合伦理AI团队的问题，它已被咨询 - 并且它不在其现状 - 可能能够帮助避免。

在过去的几个月里，谷歌的道德研究团队的领导层一直处于助焊状态。

在只有几个月的跨度，团队 - 由于其地位 - 挑战性研究，这是一组“友好的不足” - 在Gebru离开后失去了两位领导者。 2月份，谷歌发射了Meg Mitchell，一名研究员创立了伦理AI团队并与Gebru联合领导它。并于4月，米切尔的前经理顶级AI科学家Samy Bengio，他以前管理了Gebru并说他被发生在她身上的事情“震惊了”。 Bengio直接为道德AI团队直接工作但是监督其作为谷歌大脑研究部门的领导者的工作，将在Apple领导新的AI研究团队。

2月中旬，谷歌指定了玛丽安克罗克，前副总裁的工程副总裁，成为其新负责任的AI系的负责人，AI道德团队是一部分。但有几个来源告诉回收她太高的级别，涉及团队的日常运营。

这使得伦理AI单位以临时时尚运行自己，并转向其前代理商，他们不再在公司工作以获得非正式指导和研究建议。团队的研究人员发明了自己的结构：他们旨在旋转运行每周工作人员会议的责任。他们已经自我指定了两位研究人员，让谷歌更新了其他团队更新了他们正在努力的东西，这是米切尔工作的关键部分。由于谷歌在世界各地雇用了超过130,000人，因此对于AI伦理组织的研究人员来说，这可能很难知道他们的工作是否实际上在产品中实施。

“但是现在，与我和timnit没有在那里，我认为那些针的人都消失了，”米切尔告诉回收。

六个月的伦理AI团队的较新成员特别困难，据几个人来说，伦理AI团队的伦理AI团队的新成员尤其困难来源。

在观看Gebru和Mitchell的磨损之后，团队的一些研究人员感到冒险。他们担心的是，如果谷歌决定他们的工作太争议，他们也可以从他们的工作中赶走。

在与伦理AI团队的会议中，克罗克是一位成功的工程研究领导者，但在道德领域没有经验，已经试图向员工放心，她是团队正在寻找的盟友。克罗克是谷歌排名最高的黑人高管之一，黑人女性只占劳动力的1.2％。她承认谷歌在提高其员工的种族和性别多样性方面缺乏进展 - 在谷歌工作的时候，甘油发出声音。据几位研究人员称，克罗克在与员工的会议中袭击了一个抱歉的语气，承认球队正在进行的痛苦。

但是，几个消息人士都说，行政人员已经有了错误的脚，因为他们觉得她觉得一系列空的承诺。

在Croak正式作为一个新的负责任AI单位的领导之后，她开始与道德AI团队成员的非正式对话有关如何修复对团队的损害。哈娜与她的同事一起起草了一封信，这些伦理艾丽队的伦理队的要求，这些队伍规定了将“结构变迁”与研究组织中的“结构变化”一起。

这种重组发生了。但是，当他们第一次听到彭博文章的变化时，伦理艾的工作人员被盲目。

“我们恰好是在内部了解它的最后一个人，即使我们是开始这个​​过程的团队，”2月汉娜说。 “即使我们是带来这些投诉的团队，也表示需要重组。”

“在一开始，玛丽安说，”我们希望你的帮助起草宪章 - 你应该有一个关于你的管理方式，“”他对荒唐匿名条件的伦理互惠队的队伍说过另一个研究人员报复。 “然后她消失了一个月或两个月，并说，'惊喜！这是负责任的AI组织。“”

克罗克告诉该团队对重组公告有误解。她继续寻求伦理AI团队的反馈，并确保他们一直到首席执行官Sundar Pichai的领导能力承认了他们的工作。

但是，伦理AI团队的几名成员表示，即使克罗克是良好的意义，他们也会质疑她是否拥有在谷歌在谷歌改革动态的机构权力，这首先争夺了Gebru争议。

有些人在谷歌的未来对他们的未来迷恋，并质疑他们是否有自由他们需要完成工作。谷歌已经同意了一个要求，但它没有对其他人采取行动：他们希望谷歌公开承诺学术自由并澄清其研究审查过程。他们还希望它向Gebru和Mitchell道歉，并为研究人员提供他们的工作回来 - 但此时，这是一个非常不太可能的前景。 （Gebru表示，即使谷歌向她提供了，她也不会带她的旧工作。）

“需要是外部问责制，”Gebru在5月份采访时说。 “也许有一次，这支球队将有一个冠军的内部领导者。”

伦理AI团队的一些研究人员告诉回收他们正在考虑离开公司，并且他们的几个同事正在考虑这样做。在AI的竞争激烈的领域中，顶级科技公司的需求研究人员可以指挥七分类工资，这将是谷歌的一个重大损失，使竞争对手失去了才能。

谷歌是迄今为止技术产业中最大的研究资助者之一 - 它去年花费了超过270亿美元的研究和设计，比美国国家航空航天局的年度预算大。

但围绕其道德AI团队的争议已经留下了一些学者质疑其对让研究人员自由进行工作的承诺，而不会被公司的商业利益蒙上掩饰。

计算机科学的成千上万的教授，研究人员和讲师签署了批评谷歌的请愿书，致电Gebru，称之为“前所未有的研究审查”。

古董和其他AI高管在谷歌知道公司在更广泛的研究界丧失了信任。根据二月的员工研究会议的评论，他们重建信任的战略是“继续公布尖端工作”，这是“深感有趣”。 “迪恩说：”这将需要一段时间来恢复与人的信任。“

“我认为谷歌的声誉在这一点上，至少在中长期，即加拿大安大略省西部大学的助理教授卢克斯坦克卢克斯克（Luke Stark）说，他研究了人工智能的社会和道德影响。

Stark最近从Gebru的声音抗议谷歌拒绝了谷歌的60,000美元不受限制的研究资助。据报道，他是第一个拒绝慷慨和高竞争力的资金的学术。

Stark不是唯一抗议谷歌在其伦理AI团队的处理中的学术。由于甘肃的出发以来，两组专注于越来越多的田地多样性，在AI和AI的Queer中，他们表示将拒绝谷歌的任何资金。邀请两位学术界在谷歌研讨会上发言抵制抗议。一个受欢迎的AI道德研究会议，FCCT，暂停了谷歌的赞助。

至少有四名谷歌员工，包括工程总监和AI研究科学家，并将甘肃射击作为辞职的原因。

当然，这些偏离代表了一个大群中的少数人。其他人现在住在一起，因为他们仍然相信事情可以改变。在更广泛的研究部门工作但不在道德AI团队中工作的一个谷歌员工表示，他们和他们的同事强烈反对领导迫使玉布。但他们觉得他们的责任留下来继续做有意义的工作。

“谷歌是如此强大，有这么多机会。它正在研究这么多的尖端AI研究。对于没有人关心道德的人来说，这会感到不负责任。“

而这些内部和外部问题关于谷歌如何处理其对道德AI开发的方法，比学术界更远。监管机构也开始关注。 12月，大会九名成员发了一封信给谷歌要求谈判的乐观射击。和巨大的改变的改变的有影响力的种族司法团体颜色 - 这让去年推出了广告商抵制Facebook - 在Gebru的欧姆斯特的光线中呼吁在Google的潜在歧视。

这些外部团体正在密切关注谷歌的AI团队内部发生的事情，因为他们认识到AI在我们的生活中发挥的越来越大。几乎每个主要技术公司，包括谷歌，都认为AI作为现代世界的关键技术。由于反垄断关注，谷歌已经在政治热门座位上，公司对该公司获得了这项新技术的赌注。

“这需要花费更多的推动负责任的AI努力，而且我认为这不认为这是当前领导人正式认可的，”汉娜说。 “我真的不认为他们了解谷歌在这个空间中作为一个受人尊敬的演员造成了多少伤害。”

数百万人转向Vox，了解新闻中发生的事情。我们的使命从未比这一刻更重要：通过了解来赋予。我们读者的财务贡献是支持我们资源密集型工作的关键部分，并帮助我们为所有人提供新闻。请考虑今天为vox提供贡献，从3美元的价格下降。