许多顶尖的人工智能研究人员获得了大技术公司的资金支持

作为一名从事人工智能研究的研究生，穆罕默德·阿卜杜拉(Mohamed Abdalla)可能会进入一些薪酬丰厚的行业工作。相反，他希望引起人们的注意，即科技巨头的巨额资金可能会如何扭曲他所在领域的前景。

即将在多伦多大学(University Of Toronto)完成博士学位的阿卜杜拉(Abdalla)与人合著了一篇论文，强调了接受科技公司资助的顶尖人工智能研究人员-包括那些研究这项技术带来的道德挑战的人-的数量。他说，当企业人工智能系统提出伦理问题时，这可能是一个特别的问题，比如算法偏差、军事用途，或者对人脸识别程序的公平性和准确性的质疑。

Abdalla发现，在四所披露资金来源的知名大学中，超过一半的终身教职人工智能教师得到了Big Tech的某种支持。Abdalla说，他不认为这些教员中有任何人的行为是不道德的，但他认为他们的资金可能会影响他们的工作-即使是在无意识的情况下。他建议大学引入规则，以提高人们对潜在利益冲突的认识。

当然，行业资助学术研究并不是什么新鲜事。资本、想法和人员在公司和大学之间的流动是充满活力的创新生态系统的一部分。但大型科技公司现在拥有前所未有的权力，尖端人工智能算法对其业务的重要性导致它们从学术界寻找人才。

拥有人工智能专业知识的学生可以在科技公司拿到高薪，但公司也会为重要的研究和年轻研究人员提供拨款和奖学金。许多顶尖的人工智能教授已经被吸引到科技公司，或者在这些公司兼职。除了资金，大公司还可以提供大多数大学无法比拟的计算资源和数据集。

罗切斯特大学(University Of Rochester)和中国长江商学院(Cheung Kong Graduate School Of Business)的研究人员在7月份发表的一篇论文中发现，谷歌(Google)、DeepMind、亚马逊(Amazon)和微软(Microsoft)在2004年至2018年期间聘请了52名终身教职教授。它得出的结论是，这种“人才流失”与创办人工智能公司的学生数量下降不谋而合。

大技术公司日益增长的影响力和影响力促使阿卜杜拉质疑它是如何以更微妙的方式影响他的领域的。

Abdalla和他的哥哥(也是一名研究生)一起研究了斯坦福大学、麻省理工学院、加州大学伯克利分校和多伦多大学有多少人工智能研究人员在他们的职业生涯中接受了Big Tech的资助。

阿卜杜拉斯夫妇检查了在这四所学校从事人工智能工作的135名计算机科学教职员工的简历，寻找这名研究人员从一家或多家科技公司获得资金的迹象。对于其中的52个，他们无法做出决定。在剩下的83名教师中，他们发现有48名，即58%，获得了来自14家大型科技公司之一的拨款或奖学金：Alphabet、亚马逊、Facebook、微软、苹果、Nvidia、英特尔、IBM、华为、三星、优步、阿里巴巴、Element AI或OpenAI。在一小部分从事人工智能伦理研究的教职员工中，他们还发现其中58%的资金来自大型科技公司(Big Tech)。当包括任何资金来源，包括双重任命、实习和休假时，33人中有32人，即97%，与科技公司有财务联系。Abdalla说：“很少有人不与大型科技公司有某种联系。”

阿德巴拉说，行业资金不一定是妥协的，但他担心这可能会产生一些影响，可能会阻碍研究人员追求某些项目，或者促使他们同意科技公司提出的解决方案。具有挑衅性的是，Abdallas的论文将大技术公司为人工智能研究提供的资金与烟草公司在20世纪50年代为吸烟对健康影响的研究付费的方式相提并论。

“我认为绝大多数研究人员都没有意识到，”他说。“他们并没有积极寻求推动这一项议程或另一项议程。”

人工智能领域的其他人则担心行业资金的影响。在今年最大的人工智能研究人员聚会上，一个名为“人工智能中的阻力”的新研讨会将研究人工智能“如何将权力集中在政府和公司手中，而不是边缘化的社区”。

但与行业的联系无处不在，经常在审查人工智能道德使用的组织中发现。例如，公平、问责和透明度大会(Fairness，Accounability and Transform Conference)的三名联席主席中有两名为Alphabet子公司工作。公平、问责和透明度大会是一项关注人工智能社会影响的重要活动。

非营利组织人权数据分析集团(Human Rights Data Analysis Group)的统计学家克里斯蒂安·鲁姆(Kristian Lum)是这次会议执行委员会的成员，他说，和其他活动一样，这次会议也得到了企业的赞助。但她说，会议的政策规定，赞助商对会议内容或演讲者没有控制权。Lum说，参与会议的人小心翼翼地披露潜在的利益冲突。

“大型科技公司确实有很大的影响力，”Lum说，他的雇主是由基金会资助的。“我确实认为人们越来越意识到这一点。”

纽约大学的研究科学家梅雷迪思·惠特克(Meredith Whittaker)之前曾在谷歌(Google)的一个项目上工作，该项目将公司与学术研究联系起来。2018年，她还在公司内部领导了抗议活动，反对公司对性行为不当和监控的政策。

“人们知道谁付钱给他们，”她说。但她表示，假设由一家公司资助的人不能批评大型科技公司是不公平的。她说，几名在科技公司工作的研究人员对他们雇主的技术持批评态度。她说，公司内部的抵制可以帮助检查他们的权力。“随着这项技术的地位变得越来越明显，工人组织和工人异议只会越来越多，”她说。

谷歌的一位发言人说，公司的政策禁止员工试图影响学术工作。这位发言人说：“谷歌与学术和研究机构的合作丝毫不受政策影响。”“我们是学术研究的巨大支持者，因为它使我们能够与那些希望解决与我们相同问题的学者合作。”

加州大学伯克利分校(UC Berkeley)教授本·雷赫特(Ben Recht)此前曾批评过研究人员同时为一所大学和一家公司工作的想法。但他认为，企业对人工智能的资助不应该被视为天生的坏事。他说：“你可以提出一个资本家的论点，认为公司追求符合道德的技术是有好处的。”“我认为这是他们中的许多人努力去做的事情。”

雷赫特还指出，即使没有行业资金，学者们也可以做出有道德问题的工作，比如支撑人脸识别的算法，或者那些帮助将社交媒体平台变成回音室和错误信息来源的算法。雷赫特还指出，来自包括军方在内的政府机构的资金也会影响研究的方向。

就Abdalla而言，他担心引起人们对大型科技公司和学术界之间关系的关注可能会影响他找到工作的前景，因为教授们经常被期望帮助带来资金。“我被告知不要急于求成，”他说。

🎧事情听起来不太对劲？查看我们最喜欢的无线耳机、音棒和蓝牙扬声器