当策展成为创造

2021 年 7 月 21 日，第 19 卷，第 3 期自从互联网上的社交活动开始从开放网络的荒野迁移到所谓的平台（想想 Myspace、Facebook、Twitter、YouTube 或 TikTok）建立的围墙花园以来，辩论对这些平台应该承担的责任感到愤怒。然而，尽管新闻媒体和愤怒用户的草根运动进行了严格审查，但从法律的角度来看，平台继续以最友好的方式运作。你可能会说，今天的平台享受“有你的蛋糕，也吃它，还有冰淇淋的一面”的交易。他们同时受益于：（1）广泛的自由裁量权，可以随意组织（和审查）内容； (2) 强大的算法，可根据用户的任何目的来策划几乎无限量的用户发布的微内容； (3) 免除与该内容相关的几乎任何责任。这种有利的监管环境源于当前的法律框架，该框架区分了中介（例如平台）和内容提供商。这种区别不适用于现代社交媒体环境，在现代社交媒体环境中，平台部署强大的数据驱动算法（所谓的人工智能）以在塑造人们所见方面发挥越来越积极的作用，而用户提供断开的原始内容（推、照片等）作为素材。具体而言，根据 1996 年电信法第 230 条，“交互式计算机服务”免于对“信息内容提供商”产生的信息承担责任。虽然该条款最初旨在保护电信公司和互联网服务提供商免于对仅通过其管道传输的内容承担责任 1，但该名称现在保护了 Facebook、Twitter 和 YouTube 等积极塑造用户体验的服务。除了删除特定类别的内容（例如，儿童色情和侵犯版权）的义务外，当今的平台有权将他们喜欢的任何内容货币化，在符合其公司目标时进行调整，并根据他们的意愿策划他们的内容。在他 2018 年出版的《互联网的监护人》一书中，3 Tarleton Gillespie 通过内容审核的视角审视了平台，强调了一个明显的矛盾：平台不断地（并且可以说，必须）涉入规范，就内容的内容做出政治决策允许;然而，由于他们声称的中立，他们在不负责任的情况下运作。自始至终，吉莱斯皮都是公平的，对平台的困境表示同情。他们必须适度，所有主流平台都这样做。如果没有节制，平台很容易被骚扰者和机器人接管；然而，没有任何适度政策是价值中性的。

温和辩论中的闪点包括长达数年的抗议 Facebook 将母乳喂养照片归类（以及后来解密）为“淫秽”内容的政策； Facebook 删除淫秽但具有历史意义的图像的有争议的政策，例如获得普利策奖的“凝固汽油弹女孩”照片以其在越南战争中扭曲公众舆论的作用而著称；并且，在 1 月 6 日国会山骚乱之后，账户暂停浪潮席卷了 Twitter、Facebook、亚马逊，甚至 Pinterest。在所有这些情况下，平台都面临着市场后果以及品牌管理挑战。然而，从法律的角度来看，他们的自主权很少受到挑战。最后，吉莱斯皮促使他的读者重新考虑是否应该将不可避免的政治决定并影响我们所有人的决定委托给平台。通过适度的视角分析平台提出了有关现行法规充分性的基本问题。然而，适度镜头很少迫使我们质疑中介-创造者区别的有效性。本文认为，用于管理内容的技术和用户内容本身的性质的重大变化正在迅速侵蚀中介和创作者之间的界限。首先，机器学习算法和系统的突破将底层内容智能地组合成策划的体验，使公司能够以前所未有的控制方式确定可以看到的内容，以及用户实际看到的内容，无论使用何种指标一家公司认为其服务于其业务目标。其次，与用于共享整篇文章链接的传统公告板网站或用于共享文章长度思考的博客平台不同，Facebook 和 Twitter 等现代社交媒体巨头主要（并且越来越多地）在微内容中进行流量——孤立的文本和照片片段在通过他们的生态系统点菜。第三，最大的平台规模如此之大，以至于它们的内容几乎包含任何事实断言（真或假），几乎所有规范性断言（无论多么极端），以及几乎所有在时代精神中漂浮的照片（真或假）。

平台现在享有为用户创建媒体产品的巨大表达能力，仅受可用原子内容和算法能力的限制，这两者分别由于规模经济和技术进步而迅速发展。我们并不是第一个建议策展从根本上改变平台和创作者之间区别的人。在最近提出的第 230 条修正案中，出于更务实的监管考虑，美国众议员 Anna G. Eshoo（加利福尼亚州民主党）和 Tom Malinowski（DN.J.）最近提议将那些“交互式计算机服务[s]”重新分类（平台）“使用算法、模型、其他计算过程对信息进行排名、排序、推广、推荐、放大或类似地改变信息的传递或显示”作为“信息内容提供者[s]”（创建者）。 2 为明确这些法律术语的解释忠实于第 230 条的原意，这里是官方定义： 术语信息内容提供者是指任何个人或实体，全部或部分负责创建或开发通过 Internet 或任何其他交互式计算机服务提供的信息。除了直接的法律目标，为什么要针对（算法）内容管理？乍一看，通过策划内容，互联网服务不仅应该承担某种程度的责任，而且还应该承担与基础内容的创建者完全相同的地位，相对于责任而言，这似乎很荒谬。然而，这种区别实际上可能并不那么牵强。艺术界也出现了类似的争论。谁能声称对大量采样预先存在的音频的流行歌曲负责？野兽男孩是保罗精品店的创造者，还是原始片段的创造者对这种区别拥有唯一的权利？ Jasper Johns 能否被视为他的版画和拼贴画的创造者，这些作品重新包装和并置了以前的艺术作品（由他自己和其他人创作）？对于此类衍生作品，创作权的主张、战利品的权利和责任不必相互排斥。这一先例表明，至少在一个生活领域，人们似乎对制作微型内容的人和将其组装成大型作品的人可以共享创作者称号的想法感到满意。

当然，这条线必须画在某个地方。 DJ 创作音乐的方式与 Beastie Boys 不同。艺术画廊的艺术创作方式与 Jasper Johns 的创作方式不同。在整齐的法律类别系统之下，隐藏着一系列杂乱无章的创意活动。回到网络平台的活动，让我们考虑一下策展-创造范围的两个极端。首先，让我们看看典型的聚合网站（例如 Drudge Report）的活动，其内容完全由指向 Internet 上其他地方存在的完整文章的出站链接组成。可以说，德拉吉扮演了 DJ 的角色，创造了更像是播放列表而不是歌曲的东西。现在考虑一下典型的在线博主或典型的在线时代过度劳累的记者，他们提供评论或综合，但不提供原创报道。他们在 Internet 上搜索内容，组合单词、短语、完整引用和照片，所有这些都可以在其他地方找到，以生成文章或帖子。大多数读者无疑都同意这可以称为创造。事实上，与 Twitter 和 Facebook 用户是他们发布的内容的创建者一样，它也是一种创造。现在考虑中间立场，有人通过组合既不是整篇文章，也不是单个词，而是从整个互联网中提取的单个句子来塑造内容，剥离其原始上下文，并组合以呈现周围话语的任何所需图片任何话题。法律学者和政治家可以辩论这种中间立场是否值得官方归类为创作与策展。然而，不可否认的是，这些行为确实构成了一个谱系，句子的策展人比文章的策展人更像文字的策展人。今天的平台一直在这个范围内稳步发展。从最早的时代，当一个相对微不足道的内容库以相反的时间顺序呈现时，到现代时代为 Twitter 和 Facebook 的新闻提要提供动力的黑匣子系统，演员的格局正在发生变化，他们看起来越来越不像无私的公用事业乐于传输任何出现在他们管道中的内容，并且越来越像媒体产品的活跃创作者。可以肯定的是，这个范围内的活动并不统一，即使在一个平台内也是如此。以 Twitter 为例：虽然默认新闻提要确实是根据不透明的过程定制的，但内容主要由您关注的个人最近发布（或转推）的帖子组成。另一方面，Twitter 的探索屏幕与句子的中间层策展人有着惊人的相似之处。他们都提出了一组热门话题，每个话题都根据一些未知的过程命名，并且他们从（通常）数百万条关于某个话题的推文中挑选出一个代表故事的集合。

在一个出现在传统场所的许多新闻文章由一系列通过叙述和解释松散连接的精心策划的推文组成的时代，将中间人和创作者之间的界限变得如此狭窄，以至于表明双重标准已经在发挥作用的可能性。虽然这里的重点是平台为呈现内容而采取的行动，但这并不是它们影响用户消费信息的唯一方式。 Twitter 和 Facebook 等平台会定期翻译各种语言的消息。图像共享平台，例如 Instagram 和 Snapchat，将算法转换应用于照片。随着技术的进步，策展和创作之间的模糊界限可能会变得越来越不明显，而不是越来越明显。未来，平台可能不仅可以跨语言翻译，还可以跨方言转述 5 或提供内容摘要。 7 他们可能不再使用可爱的过滤器，而是按照规范渲染整个合成图像。 4 也许是为了安抚对网络的毒性感到震惊的用户，Twitter 和 Facebook 可能会提供一些功能，使消息变得更加礼貌。 6 制定政策来平衡企业责任、经济活力和个人言论自由权的竞争需求是很困难的。本文并不假定将策展-创造范围内的某一点作为一个真正的分界点。它也无意为首先基于这种区别的系统的可行性提供明确的指导。相反，这里的目标是阐明策展和创作之间确实存在范围。此外，技术进步为平台提供了一套强大、多样且不断增长的工具，用于构建存在于“交互式计算机服务”和“信息内容提供商”之间的灰色地带的产品。监管这个有影响力且不断增长的互联网领域需要认识到问题的本质灰度性质，并且我们避免将所有在线参与者硬塞到简单的分类系统中的简化监管框架。

在某些时候，现代平台对用户体验的影响越来越大，必须伴随着更大的责任。很难确定平台应该承担责任的中间创造者范围内的确切点。 Eshoo 和 Malinowski 代表提出的法案表明已经达到了这一点。当然，Facebook 的法律团队会不同意。然而，显而易见的是，当今的平台在创建媒体产品方面发挥着越来越大的作用，任何连贯的监管框架都必须适应这一现实。 2. Eshoo, AG 2020。代表 Eshoo 和 Malinowski 提出法案，要求技术平台对算法推广极端主义负责； https://eshoo.house.gov/media/press-releases/reps-eshoo-and-malinowski-introduce-bill-hold-tech-platforms-liable-algorithmic。 3. Gillespie, T. 2018。互联网的保管人：平台、内容审核和塑造社交媒体的隐藏决策。耶鲁大学出版社。 4. Koh, JY, Baldridge, J., Lee, H., Yang, Y. 2021。基于细粒度用户注意力的文本到图像生成。在 IEEE/CVF 计算机视觉应用冬季会议论文集，237-246； https://openaccess.thecvf.com/content/WACV2021/html/Koh_Text-to-Image_Generation_Grounded_by_Fine-Grained_User_Attention_WACV_2021_paper.html。 5. Lewis, M., Ghazvininejad, M., Ghosh, G., Aghajanyan, A., Wang, S., Zettlemoyer, L. 2020。通过释义进行预训练。神经信息处理系统进展 33； https://proceedings.neurips.cc/paper/2020/hash/d6f1dd034aabde7657e6680444ceff62-Abstract.html。 6. Madaan, A., Setlur, A., Parekh, T., Poczos, B., Neubig, G., Yang, Y., Salakhutdinov, R., Black, AW, Prabhumoye, S. 2020。礼貌转移：标签和生成方法。在 1869-1881 年计算语言学协会第 58 届年会的议事录中； https://www.aclweb.org/anthology/2020.acl-main.169.pdf。 7. Wang, X., Yu, C. 2019. 通过学习使用问答对总结新闻文章。在国际语义网会议上，698-715； https://research.google/pubs/pub48295/。

刘乐奇是博士。卡内基梅隆大学机器学习系学生。此前，她获得了布林莫尔学院的计算机科学学士学位和哈弗福德学院的数学学士学位。她关心机器学习中的人工智能和以人为本的问题。特别是，她想建立机器学习系统，可以从他们的行为中推断出人类的偏好，做出符合人类价值观的决定，并与人类互动，即使他们具有适应性、情感和战略性。 Dylan Hadfield-Menell 是麻省理工学院人工智能和决策的助理教授。他致力于人工智能中的价值对齐问题，并致力于设计算法，以了解和追求用户、设计师和整个社会的预期目标。他最近的工作重点是在人工智能系统中（过度）优化代理指标的风险。 Zachary Chase Lipton 是卡内基梅隆大学运筹学和机器学习的 BP 初级讲座助理教授，也是亚马逊人工智能的访问科学家。他领导近似正确的机器智能 (ACMI) 实验室，该实验室的研究涵盖核心机器学习方法、临床医学和自然语言处理的应用以及自动化对社会系统的影响。当前的研究重点包括分布转移下的稳健性、决策制定、因果思维在实际高维设置中的应用，以抵制风格化的因果模型，以及人工智能伦理。他是 About Correct 博客 (aboutcorrect.com) 的创始人，也是 Dive Into Deep Learning 的合著者，这是一本完全通过 Jupyter notebook 起草的交互式开源书籍。可以在 Twitter (@zacharylipton)、GitHub (@zackchase) 或他的实验室网站 (acmilab.org) 上找到他。最初发表在队列卷。 19，没有。 3—在 ACM 数字图书馆中查看此项目 相关：Arvind Narayanan、Arunesh Mathur、Marshini Chetty、Mihir Kshirsagar - 黑暗模式：过去、现在和未来 黑暗模式滥用了设计师手中的巨大力量。随着公众对黑暗模式的认识不断提高，潜在的后果也在增加。记者和学者一直在仔细研究黑暗模式，这些曝光的反弹可能会破坏品牌声誉并使公司处于监管机构的视野之下。设计就是力量。在过去十年中，软件工程师不得不面对这样一个事实，即他们所拥有的权力伴随着对用户和社会的责任。在这十年中，设计师也该学习这一课了。 Kari Pulli、Anatoly Baksheev、Kirill Kornyakov、Victor Eruhimov - 使用 OpenCV 的实时计算机视觉 计算机视觉是一个快速发展的领域，致力于分析、修改和对图像的高级理解。它的目标是确定相机前发生的事情，并使用这种理解来控制计算机或机器人系统，或者为人们提供比原始相机图像信息更丰富或更美观的新图像。计算机视觉技术的应用领域包括视频监控、生物识别、汽车、摄影、电影制作、网络搜索、医学、增强现实游戏、新用户界面等等。 Julian Harty - 通过自动化测试查找可用性错误 理想情况下，所有软件都应该易于使用并且可供广泛的人使用；然而，即使是看似现代和直观的软件，也往往达不到最基本的可用性和可访问性目标。为什么会发生这种情况？一个原因是有时我们的设计看起来很吸引人，所以我们跳过了测试它们的可用性和可访问性的步骤；所有这些都是为了速度、降低成本和竞争优势。

Jim Christensen、Jeremy Sussman、Stephen Levy、William E. Bennett、Tracee Vetting Wolf、Wendy A. Kellogg - 信息太多随着移动计算设备和各种传感器变得无处不在，应用程序和服务的新资源 - 通常统称为以下上下文感知计算的标题 - 正变得可供设计人员和开发人员使用。在本文中，我们考虑了在包括 VoIP（IP 语音）和传统信息技术融合在内的新通信服务中利用上下文感知所带来的潜在好处和问题。