尽管有限制，但 Pinterest 上的反犹太商品仍然存在

跳过导航 在 Pinterest 的搜索框中输入反犹太主义术语“6mwe”不会产生任何结果，但会提供警告：“Pinterest 不是发布仇恨图像、内容或活动的地方。详细了解我们的政策。”但是从谷歌搜索 Pinterest 的网站，搜索“6mwe hoodie”这个词很容易产生数十个内容，这些内容显然违反了 Pinterest 对“基于仇恨的阴谋论和错误信息的限制，比如否认大屠杀”，该平台称其已限制或删除了内容. Pinterest 上受限内容的后门引发了对该平台审核策略有效性的质疑，该策略侧重于防止人们在网站上找到某些内容，而不是删除该内容。尽管该策略获得了广泛赞誉，但它也因没有考虑到攻击性内容可能会溢出到其他平台并在被隐藏后长期存在的方式而受到批评。标记发现了 64 个带有“6mwe”商品的别针——根据反诽谤联盟的说法，这个词是“600 万还不够”的简写，指的是在大屠杀期间被杀的犹太人人数。在右翼团体“骄傲男孩”的成员参加的集会上，有人发现他们中的一些人穿着带有鹰标志的衣服，下面写着“6mwe”。 （请参阅我们的数据。）标记能够将这些图钉保存并组织到私人板上。 Pinterest 的推荐工具均未建议包含这些术语的内容。标记还发现了九个用于抱枕、背包、旅行杯和面罩的别针，头骨上印有“奥斯威辛营”和“工作带来自由”的字样。在 The Markup 与 Pinterest 分享我们的发现后，这些图钉被移除了。 “Pinterest 上没有这样的内容的地方，”Pinterest 发言人 Crystal Espinosa 说。 Espinosa 补充说：“当我们发现或获悉违反我们政策的内容时，我们会进行审查并采取行动。”当被问及为什么这些 Pin 图在平台上可用时，埃斯皮诺萨解释说，它的审核工作并不完美，“鉴于内容的数量和复杂性，总是有更多的工作要做，我们也认识到我们有更多的机会提升。”

反诽谤联盟首席执行官乔纳森·A·格林布拉特 (Jonathan A. Greenblatt) 告诉 The Markup：“对‘奥斯威辛集中营’的抱枕是否越界做出判断不需要任何细微差别。” “这种仇恨和攻击性内容在 Pinterest 上很容易访问的事实表明，即使是最明显的仇恨例子，科技公司仍然需要走多远。如果 Pinterest 想要为所有人创造一个欢迎和安全的空间，它必须在未来的内容审核工作中投入更多资源。” “Camp Auschwitz”别针都指向 Redbubble 市场上已被删除的列表。 Redbubble 发言人 Marissa Hermo 告诉 The Markup，其平台将这些项目认定为违规行为，并在上传当天将其删除。 “我们有针对特定主题的暂停审查机制，因此这些内容不应该让公众看到，”她说。 Pinterest 过去曾因使用其搜索系统试图限制有害内容而不是专注于彻底删除此类内容而受到批评。去年，OneZero 的一项调查发现，Pinterest 决定仅隐藏某些内容而不是将其从平台上彻底删除，这使得年轻女孩的色情图片、有关冠状病毒和疫苗的错误信息以及与 QAnon 相关的内容持续存在于平台上，该出版物是通过与 The Markup 相同类型的有针对性的 Google 搜索发现的。 Pinterest 此后宣布禁止在其平台上使用 QAnon 内容，这是该公司于 2018 年实施的举措。谷歌发言人 Jane Park 告诉 The Markup，任何网站所有者都可以通过首先从他们自己的内容中删除内容来从谷歌的搜索索引中删除内容。网站，然后使用“过时内容”工具将其从 Google 中删除。 “我们的结果反映了开放网络上可用的信息，网站可以选择是否让 Google 将其网页编入索引，”Park 说。 Markup 询问 Pinterest 为什么没有使用此类工具将这些结果从 Google 的索引中删除。 “我们对出现在我们平台上的内容进行监督，并与 Google 合作加快删除指向已从 Pinterest 中删除的内容的链接。我们一直在努力加快这一过程，以便违反政策的内容不会在其他地方持续存在，”Pinterest 的 Espinosa 说。在冠状病毒大流行开始之前，Pinterest 积极采取行动，通过不返回相关搜索结果来打击平台上的反疫苗错误信息。但它似乎将有问题的别针留在原地，允许用户在板上保存和管理它们。

2020 年 12 月，《新闻周刊》报道了在亚马逊和其他电子商务网站上销售的“6mwe”商品。亚马逊删除了新闻周刊发现的产品。内容在平台上迅速传播，这会给审核带来挑战。 2020 年 8 月，首次出现在 TikTok 上的南希·佩洛西 (Nancy Pelosi) 的操纵视频（第二个此类病毒式视频）很快传播到其他平台。 YouTube 和 Twitter 都以禁止操纵媒体的政策为由，立即删除了该视频。然而，Facebook 发言人告诉《华盛顿邮报》，该视频并未违反其政策，而是将其搁置。 Facebook 的政策传播总监安迪·斯通 (Andy Stone) 还告诉《华盛顿邮报》，Facebook 已经澄清了其政策语言，该视频的知名度将降低。圣约翰大学法学院法学助理教授凯特·克洛尼克 (Kate Klonick) 表示，这些可能源自一个网站并在另一个网站上持续存在的冒犯性内容造成了一个独特的问题，大型平台的内容审核技术并没有真正解决这个问题。克洛尼克说：“这些想法在一定程度上被煽动起来。”并且不清楚“每个站点有多少责任从其他站点清理他们的材料，在所有这些公司之间的走廊里，你会发现这些东西被困住并空了，但外骨骼仍然存在。”圣克拉拉大学法学院研究副院长兼教授埃里克戈德曼认为，Pinterest 在某些情况下可能采取了正确的方法，使内容可访问。高盛表示，平台和服务在采取移除措施之前可以采取多种补救措施，这可能会产生不可预见的负面后果。 “如果你删除了一项内容，并且在系统的其他地方有该内容的锚点，无论是评论附加到它还是入站链接，它都会破坏围绕该内容项可能发生的对话，”戈德曼告诉 The标记。他说，保留令人反感的内容可能令人沮丧，但从历史背景来看，这可能很重要。 “当物品被移除时，我们失去了一段我们的历史，它可能是丑陋的，可能是不舒服的，但这对于理解世界来说也可能是至关重要的。” The Markup 收集的许多反犹太主义 pin 导致电子商务列表无效或被删除，但在 pin 连接到的 38 个链接中，近三分之一导致了活跃的电子商务网站，可以从 T 恤上购买商品donefashion.com、funnysayingtshirts.com、myclothzoo.com、teesbuys.com、teeshirtxyz.com 和 teejabs.com 等供应商。我们联系了这些网站以征求意见，但没有收到任何回复。

Pinterest 的工程博客定期分享有关该公司最近努力缓和违反其政策的内容的新闻。最近，该公司的信任和安全机器学习负责人 Vishwakarma Singh 写道：“今天，我们的模型可以检测和过滤成人内容、仇恨活动、医疗错误信息、毒品、自残和图形暴力的违规行为。我们计划在下一次模型迭代中对其他类别进行明确建模。”博客说，审核系统使用机器学习和图像识别来查找新的 pin 和 board，这些 pin 和 board 是针对经过训练以识别政策违规的模型创建的。在其最新的半年度透明度报告中，Pinterest 表示，在其 4.4 亿每月访问者中，只有很小一部分人看到了令人反感的内容。该报告指出，在 2020 年 10 月至 2020 年 12 月期间，10% 的用户将违反政策的 Pin 图归类为“仇恨活动”。随着技术扩展到文化的各个角落，黑匣子算法以无数的方式重塑我们的生活，The Markup 正在努力将这一切都集中起来。我们是一家非营利性新闻编辑室，为技术报道提供技术专业知识。我们追求强有力的、数据驱动的分析，并让强大的机构承担责任。独立新闻对健康的社会至关重要，您的支持对独立新闻至关重要。立即支持标记

我们很高兴让这个故事免费，并且可以在 Attribution-NonCommercial-NoDerivatives Creative Commons 许可下免费重新发布。这允许您重新发布文章，但不包括除署名图像之外的图像或图形。您必须归功于 The Markup。如果标记信用图像与您的 CMS 不兼容，请在您将其删除后通知我们。要重新发布，只需复制我们提供的 HTML 并将其按原样发布在您的网站上。提供的 HTML 代码段包括所有段落样式和超链接、作者署名和 The Markup 的功劳。请给我们留言，让我们知道您是否已通过 [email protected] 重新发布该故事。