做一个有道德的人很难。技术让它变得更难

就在我读到我生病的朋友在 Facebook 上发帖的那一天，我开始真正质疑我与技术的关系。一位老朋友发布了状态更新，说他需要赶往医院，因为他有健康危机。我被茶水噎住了，盯着我的笔记本电脑。我认为该帖子是对支持的请求。我为他感到害怕，然后……我什么也没做，因为我在另一个选项卡中看到我刚收到一封新电子邮件，而是去检查了。滚动我的 Gmail 几分钟后，我意识到有些事情搞砸了。新电子邮件显然不像生病的朋友那么紧急，但我表现得好像他们对我的关注有着同等的要求。我怎么了？我是一个可怕的人吗？我匆匆给我的朋友发了一条信息，但仍然感到不安。不过，渐渐地，我开始认为这不是表明我是一个不道德的人，而是反映了一个更大的社会问题。我开始注意到，当有人受苦并需要我们的帮助时，数字技术似乎常常让我们更难以正确的方式做出反应。想想有多少次朋友打电话给你谈论一些悲伤或压力的事情，当他们说话时，你几乎无法阻止你颤抖的手指查看电子邮件或浏览 Instagram。回想一下您在 Facebook 新闻提要中看到的一篇文章，内容是关于迫切需要帮助的痛苦的人们——也门的饥饿儿童，印度的 Covid-19 患者死亡——结果却被出现在它上面的有趣模因分散注意力。想一想无数关于照相手机毁掉人类尊严的故事吧。许多旁观者目睹了车祸或打架，并拿出手机拍摄了这出戏，而不是冲过去看看受害者是否需要帮助。加拿大政府委托的一份报告发现，当我们通过智能手机了解世界时，我们通常会专注于捕捉“奇观”，因为我们希望从对我们社交媒体上的视频的即时反应中获得“冲动”。多项研究表明，数字技术正在缩短我们的注意力，让我们更加分心。如果它也让我们不那么善解人意，不那么容易采取道德行动呢？如果它降低了我们的道德关注能力 - 注意到特定情况的道德显着特征以便我们能够做出适当反应的能力怎么办？

有很多证据表明我们的设备确实有这种负面影响。科技公司继续在设计元素中加入可以放大效果的元素——这些元素使我们更难持续关注真正重要的事物，甚至无法首先注意到它们。他们这样做，尽管越来越清楚的是，这不仅对我们个人的人际关系不利，而且对我们的政治也不利。前总统巴拉克奥巴马现在说互联网和社交媒体对我们的民主造成了“最大的威胁”，这是有原因的。道德关注的概念至少可以追溯到古希腊，在那里斯多葛学派将关注的实践（prosoché）描述为良好精神生活的基石。然而，在现代西方思想中，伦理学家并没有过多地关注注意力，直到一群女性哲学家出现，从西蒙娜威尔开始。 20 世纪早期的法国哲学家和基督教神秘主义者韦尔写道：“注意力是最稀有、最纯粹的慷慨形式。”她相信，为了能够正确地关注别人——完全接受他们所有复杂的情况——你首先需要让自己摆脱困境。她将这个过程称为“创造”，并解释说：“注意力包括暂停我们的思想，让它分离、空虚……准备在其赤裸裸的真相中接收要穿透它的对象。”韦尔认为，普通的注意力——比如你在阅读小说或观鸟时使用的那种——是道德注意力的先决条件，这是移情的先决条件，也是道德行动的先决条件。后来的哲学家，如艾瑞斯·默多克和玛莎·努斯鲍姆，吸收并发展了韦尔的思想。他们用西方哲学的语言装扮它们；例如，默多克在写柏拉图关于“无私”的必要性时很吸引她。但这种“无私”或“自私”的中心思想或许最让人联想到佛教等东方传统，佛教长期以来一直强调放弃自我和训练注意力的重要性，以便我们能够感知和回应他人的需求。它提供了诸如正念冥想之类的工具来做到这一点。北卡罗来纳大学威尔明顿分校研究道德关注的宗教历史学家贝弗利麦圭尔说，你应该练习排空自己以接受他人的想法与当今的数字技术背道而驰。 “自我毁灭——这与社交媒体相反，”她说，并补充说 Facebook、Instagram 和其他平台都是关于身份建构的。用户建立了自己的理想版本，不断添加更多的文字、图像和视频，将自我增厚为“品牌”。

更重要的是，在过去十年中，一群心理学家进行了多项研究，探索人们如何（以及多久）使用社交媒体以及它如何影响他们的心理健康。他们发现社交媒体鼓励用户将自己与他人进行比较。这种社会比较融入了平台的设计。由于 Facebook 算法在我们的新闻源中增加了获得大量“喜欢”和祝贺评论的帖子，因此我们最终看到了朋友生活的精彩片段。他们似乎总是成功；相比之下，我们觉得自己很失败。然后，我们通常要么花更多的时间在 Facebook 上滚动，希望我们能找到更糟的人，让我们感觉更好，要么我们发布自己的状态更新，强调我们的生活有多么美好。这两种反应都会使恶性循环永久化。换句话说，这些平台不是帮助我们让自己摆脱困境以便我们能够真正关心他人，而是鼓励我们创造更厚实的自我，并在防御性、竞争性方面支持他们对抗我们认为更好的其他自我.电子邮件呢？当我从生病的朋友的 Facebook 帖子中分心并转而查看我的 Gmail 时，真正发生了什么？我问了谷歌前设计伦理学家特里斯坦哈里斯。他现在领导着人道技术中心，该中心旨在重新调整技术与人类的最大利益，他是 Netflix 热门纪录片《社会困境》的一部分。 “我们都去过那里，”他向我保证。 “我自己在 Gmail 上工作，我知道标签如何更改括号中的数字。当您看到数字 [向上] 时，它就在寻求新奇事物——就像老虎机一样。它让你意识到你的知识差距，现在你想弥补它。这是好奇心的差距。”哈里斯补充说，此外，人类会自然地将注意力从不舒服或痛苦的刺激上转移开，比如健康危机。而现在，随着来自四面八方的通知不断传来，“找借口减弱或留下不舒服的刺激从未如此简单。”通过分散我的注意力并在它面前晃来晃去，Gmail 的设计利用了我与生俱来的心理弱点，使我更有可能离开生病朋友的帖子，从而降低了我的道德关注度。问题不仅在于 Gmail。硅谷的设计师研究了一整套“说服技术”的技巧，并将它们用在从亚马逊的一键购物到 Facebook 的动态消息再到 YouTube 的视频推荐算法的所有领域。有时，说服性技术的目标是让我们花钱，就像亚马逊一样。但通常只是为了让我们尽可能长时间地查看、滚动和点击平台。那是因为该平台不是通过向我们出售东西来赚钱，而是通过向广告商出售我们——即我们的注意力——来赚钱。

想想当你更多地使用应用程序时，Snapchat 如何用徽章奖励你，Instagram 如何向你发送通知以查看最新图像，Twitter 如何故意让你等待几秒钟才能看到通知，或者 Facebook 的无限滚动功能如何邀请你只搞一个……更多……卷轴。很多这些技巧都可以追溯到 BJ Fogg，他是一位社会科学家，他于 1998 年创立了斯坦福说服技术实验室，教崭露头角的企业家如何通过技术改变人类行为。许多后来在 Facebook、Instagram 和谷歌（包括哈里斯）等公司担任领导职务的设计师都通过了福格的著名课程。最近，技术专家将这些课程编入了《Hooked by Nir ​​Eyal》等书籍中，该书提供了有关如何使产品令人上瘾的说明。这一切的结果就是哈里斯所说的“人类降级”：十年的证据表明，数字技术正在侵蚀我们的注意力，侵蚀我们的道德注意力，侵蚀我们的同理心。 2010 年，密歇根大学的心理学家分析了 72 项对美国大学生同理心水平进行了 30 多年的研究的结果。他们发现了一些令人吃惊的事情：学生的同理心下降了 40% 以上。大部分下降发生在 2000 年之后——Facebook、Twitter 和 YouTube 腾飞的十年——导致假设数字技术在很大程度上是罪魁祸首。 2014 年，加利福尼亚的一组心理学家撰写了一项研究，从不同的方向探索技术的影响：他们在一个没有设备的户外营地研究了孩子们。在没有手机的五天后，孩子们比对照组的孩子更准确地阅读人们的面部表情和情绪。面对面的交谈似乎增强了他们的注意力和情感能力。在 2015 年皮尤研究中心的一项调查中，89% 的美国受访者承认他们在最后一次社交互动中掏出手机。更重要的是，82% 的人表示，这让谈话变得更糟，并减少了他们对与他们在一起的其他人的同理心。但更令人不安的是，即使我们不使用它们，我们的设备也会与我们断开连接。正如麻省理工学院社会学家 Sherry Turkle 研究技术对社会行为的不利影响所指出的那样：“在实验室和自然环境中的谈话研究表明，当两个人谈话时，只要有手机放在桌子上在他们之间或在他们的视野边缘会改变他们谈论的内容和他们感受到的联系程度。人们将话题保持在他们不介意被打断的话题上。他们觉得彼此没有投入。”

数字技术不仅侵蚀了我们的注意力。它还将我们的注意力划分并重定向到单独的信息生态系统中，因此您看到的新闻与您祖母看到的新闻不同。这对我们每个人最终认为具有道德意义的事物产生了深远的影响。为了具体说明这一点，请考虑最近的美国大选。当前总统唐纳德·特朗普获得数百万张选票时，许多自由派人士怀疑，近一半的选民怎么可能投票给一个把孩子关在笼子里、引发一场导致成千上万美国人死亡的大流行病的人，等等。这一切怎么不是破坏者？ “你看着另一边，然后说，‘哦，天哪，他们怎么会这么蠢？他们看到的信息不是和我看到的一样吗？'”哈里斯说。 “答案是，他们不是。”在过去四年中，特朗普选民看到的现实版本与其他人截然不同。他们的 Facebook、Twitter、YouTube 和其他帐户为他们提供了无数关于民主党如何“歪曲”、“疯狂”或直接“撒旦”的故事（见下文：QAnon）。这些平台有助于确保点击一个这样的故事的用户会被带入一个兔子洞，在那里他们会遇到越来越多的类似故事。假设您可以在两种类型的 Facebook 提要之间进行选择：一种不断为您提供更复杂和更具挑战性的现实视图，另一种不断为您提供更多理由说明您是对的，而另一方是错的。你更喜欢哪个？ Harris 解释说，大多数人更喜欢第二个提要（技术专家称之为“确认提要”），这使得该选项比第一个（“对抗提要”）更适合公司的商业模式。社交媒体公司向用户提供更多他们已经表示喜欢的内容，以便将他们的注意力保持更长时间。他们让用户的眼睛盯着平台的时间越长，他们从广告商那里得到的报酬就越多。这意味着公司通过将我们每个人置于自己的意识形态泡沫中来获利。想想当一个平台拥有 27 亿用户时，这会如何发挥作用，就像 Facebook 那样。商业模式将我们的集体注意力转移到某些故事上，而将其他故事排除在外。结果，我们越来越相信自己是善的，另一方是恶的。我们对对方可能经历的事情变得不那么同情了。

换句话说，通过缩小我们的注意力，商业模式最终也会缩小我们的道德注意力——我们看到可能存在其他道德问题的能力。缅甸提供了一个悲惨的例子。几年前，那里的 Facebook 用户使用该平台煽动对罗兴亚人的暴力行为，罗兴亚人是这个佛教徒占多数的国家的主要穆斯林少数群体。 Facebook 允许在其平台上发布和分享的表情包、信息和“新闻”诋毁罗兴亚人，将他们视为伤害当地佛教徒的非法移民。多亏了 Facebook 算法，这些情绪激动的帖子被分享了无数次，将用户的注意力引向了对罗兴亚人越来越狭隘和黑暗的看法。该平台自己承认，在将用户的注意力转移到会质疑这种观点的来源方面做得还不够。同理心减弱；仇恨增长了。 2017年，数千名罗兴亚人被杀，数百个村庄被夷为平地，数十万人被迫逃离。联合国称，这是“种族清洗的教科书范例”。众所周知，缅甸的民主是脆弱的，而美国则被认为是卓越的民主。但是，当奥巴马说民主本身受到威胁时，包括在美国的土地上，他并没有夸大其词。过去几年，人们越来越关注社交媒体如何为威权政客提供支持：通过为他们提供一个广阔的平台，他们可以妖魔化少数群体或其他“威胁”，社交媒体使他们能够助长人们的负面情绪——就像愤怒和恐惧一样——所以它会团结起来保护他们。哈里斯解释说：“负面情绪持续时间更长，更粘人，传播得更快。” “所以这就是为什么消极的往往胜过积极的”——除非社交媒体公司采取一致行动来阻止仇恨言论或错误信息的传播。但分析师指出，即使到了影响深远的 2020 年美国大选，他们有足够的时间准备，但他们的行动仍然太少、太晚。在线形成的关注以及道德关注的方式最终导致了离线的悲惨道德结果：五人在国会大厦骚乱中丧生。指出数字技术危险的人经常会遇到一些常见的批评。第一个是这样的：这不是科技公司的错。管理自己的摄入量是用户的责任。我们需要停止如此家长式！如果用户和科技公司之间存在对称的权力，这将是一个公平的批评。但正如纪录片《社会困境》所说明的那样，这些公司比我们了解他们——或我们自己——更了解我们。他们有超级计算机精确地测试哪些颜色、声音和其他设计元素最能以吸引我们注意力的名义利用我们的心理弱点（其中许多我们甚至没有意识到）。哈里斯在纪录片中说，与他们的人工智能相比，我们都是孩子。儿童需要保护。

另一种批评表明：技术可能造成了一些问题——但它也可以解决这些问题。为什么我们不开发提高道德关注度的技术？麻省理工学院达赖喇嘛伦理和变革价值中心主任丹增普里亚达希说：“到目前为止，在数字领域进行的大部分干预都没有取得很好的效果。”这不是因为缺乏尝试。 Priyadarshi 和隶属于该中心的设计师尝试创建一个应用程序，20 Day Stranger，它可以持续更新另一个人的行为和感受。你知道他们在哪里，但永远不知道他们是谁。这个想法是，这种匿名但亲密的联系可能会让你对每天经过的陌生人更加好奇或感同身受。他们还设计了一款名为 Mitra 的应用程序。受佛教“善友”(kalyāṇa-mitra) 观念的启发，它会提示您确定自己的核心价值观，并跟踪您每天按照这些价值观行事的程度。目标是提高您的自我意识，将您的思想转变为“更好的朋友和盟友”。我试用了这个应用程序，选择家庭、善良和创造力作为我想要追踪的三个价值观。几天下来，效果很好。提醒我重视家庭给了我额外的推动，我需要更频繁地打电话给我的祖母。但尽管我最初很兴奋，但我很快就忘记了这个应用程序。它没有向我发送推送通知，提醒我每天登录。当我实现连续几天的连胜时，它并没有祝贺我。它并没有通过用积分、徽章、贴纸或动物 gif 奖励我来“游戏化”我的成功——如今这些行为修正应用程序的标准票价。我不愿承认缺乏这些技巧导致我放弃了该应用程序。但是当我向北卡罗来纳大学威尔明顿分校教授麦奎尔坦白这一点时，她告诉我她的学生也有同样的反应。 2019 年，她对被要求使用 Mitra 的学生进行了正式研究。她发现，尽管该应用程序在一定程度上提高了他们的道德关注度，但没有人表示他们会在研究结束后继续使用它。 “他们已经习惯于以某种方式操纵他们的注意力并吸引他们的应用程序，以至于当他们使用故意设计为不这样做的应用程序时，他们发现它们很无聊，”麦奎尔说。

Priyadarshi 告诉我，他现在相信“缺乏令人上瘾的功能”是为什么新社交网络意味着作为 Facebook 和 Twitter 的更合乎道德的替代品的部分原因——比如 Ello、Diaspora 或 App.net——从未设法将很多人从社交网络中剥离出来。大平台。因此，他正在努力设计能够提高人们对已经花费时间的平台的道德关注的技术。受到浏览器上弹出式广告的启发，他希望用户能够集成一个插件，该插件会定期为他们的提要提供良好的行为提示，例如，“你今天对同事说过一句好话吗？”或者，“你给老人或生病的人打电话了吗？”听起来不错，但其中隐含的是对一个令人沮丧的事实的投降：Facebook 等公司已经找到了一种制胜策略来垄断我们的注意力。除非技术人员愿意使用与 Facebook 相同的有害伎俩，否则技术人员无法将人们拒之门外，一些思想家认为这违背了目的。这就提出了一个基本问题......