2008年10月23日,美国联邦储备委员会主席艾伦·格林斯潘(Alan Greenspan)在2008年9月金融危机后立即在国会作证,作者兰迪·康诺利(Randy Connolly),美国国会通讯,2020年8月,第63卷第8期,第54-59页,10.1145/3383444评论(3),美国联邦储备委员会(美联储,FED)主席艾伦·格林斯潘(Alan Greenspan)在2008年9月金融危机之后立即在国会作证。毫无疑问,当众议员亨利·韦克斯曼(Henry Waxman)向主席施压,要求他承认你的世界观、你的意识形态是不正确的,格林斯潘绝对、准确地承认了这一点时,会议的高潮就出现了。10年前,马克·扎克伯格(Mark Zuckerberg)在国会面前又出现了一个著名的错误时刻。鉴于“剑桥分析”丑闻和俄罗斯干预2016年美国大选的曝光,扎克伯格也承认了错误:现在很明显,我们在防止这些工具被用于伤害方面做得不够。这适用于假新闻、外国干预选举、仇恨言论,以及开发者和数据隐私。
就我的过错而言,格林斯潘要简洁得多,但对根本问题的洞察力也要深刻得多。格林斯潘承认,问题不是由于误导的用户预期,或者是由于措辞拙劣的许可协议,或者是因为流氓开发人员。相反,他认识到问题在于一种似乎在一段时间内奏效的世界观……。直到它没有这么做。在金融危机的余波中,要求改革的呼声不仅出现在金融服务业,大学内部也是如此。在大学里,人们认为,经济系20和商学院11内部不切实际的模型和假设也有责任灌输一种导致危机的世界观。现在是我们计算机部门进行一些类似的自我反省的时候了。
本文就是对这一任务的一次尝试。它认为,广为人知的计算社会弊病不会仅仅通过将伦理指导或行为准则整合到计算课程中而消失。相反,解决这些弊病的方法与其说是在哲学上,不如说是在社会学、心理学、人类学、传播学和政治学等领域。也就是说,因为作为一门学科的计算正逐渐与人类和社会生活世界纠缠在一起,作为一门学术学科的计算必须摆脱受工程启发的课程模式,并整合社会科学理论和方法提供的分析镜头。为此,文章最后根据这一认识提出了转变学术计算的三个现实建议。
学术部门不是一维的庞然大物,所以一开始我就必须承认,在任何一个单独的计算部门,都有广泛的视角和信念在发挥作用。与任何学术学科一样,计算机也有一些武断的知识界限,这也是事实:它的边界不太像高墙,更像是一系列不规则的石头,它们标志着其领域周围崎岖的边界。计算,作为一个新的领域,最初列出了一系列非常初步的标记,以帮助将其与数学和工程区分开来。也许其中最重要的是计算机独特的学科思维和实践方式,正如泰德和丹宁所说,22人们给这种思维方式贴上了各种标签,分别是算法思维、算法思维和最近的计算思维。几十年来,关于这种思维模式的效用和威力的主张越来越雄心勃勃,到了本世纪头十年,人们就开始将其称为计算思维。在过去的几十年里,关于这种思维模式的效用和威力的主张变得越来越雄心勃勃。到了本世纪头十年,人们对这种思维模式的效用和威力的主张变得越来越雄心勃勃,到了本世纪头十年,人们又把它贴上了计算思维的标签。几十年来,关于这种思维模式的实用性和威力的主张越来越雄心勃勃,到了本世纪头十年。23个类似的运动,如全民计算机科学、CAN-Code和学校计算,都是基于这样一个前提,即计算思维将是所有未来工作的必要组成部分,因此让孩子们在学校学习计算思维是必不可少的。
在学术界,计算和计算思维也走上了一条扩张的弧线。数字人文-即在人文学科中使用计算方法和技术-被其倡导者视为一种通过现代化方法来刷新人文学科的方式,将其从尘土飞扬的黑暗图书馆转移到数据中心干净、明亮的空气中。5计算社会科学是最近采用计算方法和技术的另一个课程实验。19最后,在计算本身内,研究已经大大超出了算法的分析和创建以及硬件和软件体系结构的设计和实现,现在包括使用这些计算镜头来更广泛地检查社会、心理和文化现象。ACM的交易系列现在涵盖了医疗保健、计算机教育、经济和计算以及社会
我想说的是,在实践中,计算已经开始走出方法论单一的自然科学/工程科学,并试探性地进入社会科学的方法论多元化,但这一运动在学术计算中还没有得到充分的承认。
人们可以通过观察计算的社会科学性质的一个表现,即计算如何已经深深地牵涉到权力关系中,来对计算的社会科学性质有一个初步的了解。正如著名社会学家曼努埃尔·卡斯特尔斯指出的那样,权力关系是社会关系的基础,因为它们构建和塑造了规范社会生活的制度和规范。当代社会科学的一个重要见解是认识到权力和政治在我们的生活、我们的社会、我们的机构和我们的知识技术中的作用和影响。
在当代世界,权力很少依赖于胁迫,而是通过说服来制定-即通过知识生产构建意义,并通过传播系统进行分配。例如,20世纪70年代和80年代的学者将他们的权力分析集中在报纸、广播和电视上,但在过去的十年里,来自法律、社会学、经济学和通信等不同领域的广泛学者现在将重点放在数据的真理和权力构建机制以及处理这些数据的算法上。幂是通过算法实现的,因为算法输出巩固、维持或产生某些真理。3或者简单地说,数据是幂的一种形式。
作为计算机专业人员,我们经常认为自己在某种程度上是问题解决者。我们可能正在使用一种算法推理,例如,查找错误、记录流程、设计数据结构或设计冗余系统。我们中很少人会认为我们也在做政治。我只是在创造一些很酷的东西/为我的客户解决问题/做我的工作。就与权力的关系而言,人们的计算工作往往是相对无害的,这是事实。但这并不总是正确的。
在未来,我们对世界的看法将越来越多地由数字系统展现给我们的东西决定。控制这些是政治的本质。这一点已经在法律研究中得到了承认。在法律研究中,凯伦·杨(Karen Yeung)、肖莎娜·祖博夫(Shoshana Zuboff)、安东尼·凯西(Anthony Casey)和安东尼·尼斯贝特(Anthony Nisbett)等学者提出了令人信服的论点,即算法已经将基于规则和标准的法律和正义的性质转变为通过算法实现的私有化和基于武力的性质。推荐算法、自动制裁系统、反应性违规检测和预测系统以及轻推架构正在用不可知的黑匣子架构取代我们法律和政治系统中内置的人力机构,从而允许在没有任何相应争议的情况下对人进行单向监视和控制。24在凯西和尼布利特的类比中,7我们正在从一个房间的社会,其中一些房间没有进入标志(因此可以忽略或原谅违规行为),转变为一个房间锁着门的社会。因此,我们可能采取的行动范围将不再由法律控制,而是由法规控制。也就是说,我们将越来越多地受到网络安全专业人员制定的政策的约束,使用计算机科学家实施的算法,利用数据科学家提供的数据分析,并由软件工程师设计为高效运行。难怪詹姆斯·萨斯金德(James Susskind)在他2018年关于政治未来的书的结尾,对计算机专业人士提出了一条忠告:政治的未来在很大程度上将取决于当代技术专家如何开展工作。不管他们喜欢与否,这都是他们的负担。但是,除非我们也愿意对计算机课程做出改变,以反映计算机在塑造我们社会未来方面的日益扩大的作用,否则这种清算是不会发生的。
尽管这篇文章的标题是这样的,但我实际上并不是在倡导将计算机系制度化地转移到社会科学学院--这样的举动无疑是非常不切实际和不可信的--而是一种心态的改变,认识到现在和未来该领域将更多地关注学术社会科学,而不是更少地关注自然科学或工程学。要做到这一点,我有三点建议:
建议1:接受其他学科的洞察力。首先,计算必须摆脱其对其他学科的殖民心态,转而认识到来自外部计算的理论框架具有价值,并确实会改进计算。以数据科学的子领域为例。它一直是特别好的
长期以来,在计算机领域,我们反而倾向于依赖流行文化理论,即关于不可避免的技术驱动的社会变革的理论,这些理论给我们的工作涂上了一层诱人和自满的外衣。展望未来,我们需要做得更好,愿意用更细微的、有历史根据的、有经验支持的社会科学思维来告知我们的工作和我们的思想。记住彼得·丹宁阐述的观点,我们都会受益。我现在不敢相信,作为一名计算机科学家,我觉得好的东西就是对所有人都好的东西。
建议二:以社会科学课程取代部分电脑课程。实现我的第一个建议的最佳方式是接受我的第二个建议:适度减少我们课程和ACM课程建议中的计算机课程数量,以便容纳一些必修的社会科学课程。
我已经能听到反驳的声音了。当然,没有额外的非计算机课程的空间……。我们甚至没有足够的课程空间来涵盖所有基本的计算主题!&我一直在积极参与我们大学两个计算机程序的设计,我也清楚地记得那种主题太多而课位不够的感觉。无论如何,认为主题X和主题Y必须进入课程的看法有时更多地反映了教师个人的愿望,而不是反映了知情的教学方法或学生的可录用能力。
以Web开发为例。到目前为止,它是CS毕业生的主要就业来源,但在ACM 2013 CS课程指南中,网络开发已经缩减为仅基于选修平台的知识领域中的几个子领域之一。事实上,许多CS课程在他们的课程中不包含任何Web主题,这一点让CS学院以外的人感到有些惊讶。9因此,如果我们作为计算课程专家,愿意让我们的学生毕业时不具备可以说是成功就业所需的最重要的技能,因为我们认为他们可以在工作中自学,那么肯定还有一两个其他计算主题可以在毕业后学习,从而在课程中为非计算课程开辟潜在的空间。
我们需要做更多的事情来充分教育我们的计算机毕业生,而不是简单地教他们道德电车问题的道义论与功利主义算法。
但要做到这一点,ACM的课程建议必须带头。未来的ACM课程必须承认,计算机专业的学生需要的不仅仅是计算机和数学课程。他们必须承认,本世纪20年代的毕业生将面临更大的责任,毕业生的知识世界观必须拓宽,因为他们认识到计算是如何塑造和被政治、社会、经济和文化机构塑造的。如果ACM不愿意做出这些改变,该学科目前的社会结构将无休止地自我再造,而由计算带来的社会弊病将继续让其创造者感到惊讶。
对这一建议的另一个反驳可能是,我们已经开设了一门计算机伦理学课程。虽然这肯定是重要的第一步,但我们需要做更多的事情来全面教育我们的计算机毕业生,而不是简单地教他们道德电车问题的道义论算法与功利主义算法。我并不是在贬低ACM职业道德委员会、社会责任计算专业人员和社会公益计算等组织所做的重要工作。13计算伦理的问题是,目前它在计算课程中是独立存在的。由于只有一门关于计算与更广泛的人类和社会世界的关系的必修课,怎么可能不让学生感到这是外围的(因此是无关紧要的)知识呢?只要看一眼课程,学生无疑会得到这样的印象:与数值理论、算法评估和编程等课程相比,伦理学课程并不那么重要。
这是工程模型的自然结果,计算课程似乎
.