反诽谤联盟

ADL 评估了八个类别的九个社交媒体平台，这些平台属于政策、执法、产品和数据可访问性等较大领域。 ADL 调查人员评估了九个社交媒体平台公开声明的仇恨政策及其执法反应。在评分方面，ADL 比现有政策更重视仇恨政策的执行，因为如果没有有意义和一致的大规模执行，即使是精心设计的政策也是无效的。在线平台必须有全面的仇恨政策，让用户知道什么是可接受的，什么是不可接受的，并指导他们自己的内容审核工作。这些仇恨政策应禁止针对边缘化个人或群体的内容或行为。因此，ADL 着眼于技术公司是否针对其平台上的仇恨内容制定了广泛的政策或一套社区准则。科技公司在以下方面获得了分数： ADL 分析的所有九个平台都有一般仇恨政策 [2]，明确提及受保护群体并涵盖宗教、种族或民族。广泛的仇恨政策也很重要，因为在线反犹太主义可以采取多种形式。犯罪者根据各种实际或感知到的种族、民族或宗教偏见的特征，在网上针对犹太人。例如，ADL 向 Twitter 报告的一篇帖子提出了一种种族主义和反犹太主义的阴谋论，即“犹太人”想要主宰“黑人”，使用对权力的渴望这一常见的反犹太主义比喻。 ADL 报告称这违反了 Twitter 关于仇恨言论的规则。虽然 Twitter 的仇恨言论政策明确提到了多个受保护群体，但其报告界面不允许用户指定所针对的受保护群体。在那个帖子（上）中，ADL 认为所展示的反犹太主义并不一定基于他们的信仰针对犹太人，而是将犹太人假定为一种种族或民族身份，其存在的目的是为了“苏联的利益而操纵和支配美国黑人”。 。”

在另一个例子中，上述帖子——也作为调查的一部分向 Instagram 报告——明确针对犹太人和犹太教进行基于宗教的攻击，称犹太教的做法是“撒旦的会堂”。这两个例子说明了反犹太主义在社交媒体上表现出来的一些多维方式。鉴于这种复杂的背景，平台需要明确提及宗教、种族和民族（以及其他受保护群体）的反仇恨政策，以有效解决在线反犹太主义，因为仅关注基于宗教的犹太人可能不会给平台的内容版主带来灵活性，他们需要的理解和工具来有效地解决内容表达对犹太人的仇恨的方式。除了拥有明确而全面的政策外，平台还必须与用户就内容管理决策进行沟通。用户应该知道，平台会仔细审查他们关于仇恨内容的报告。 ADL 在报告卡中建立了六个类别来评估平台对用户报告的反应程度。平台在以下方面获得分数： 这六个类别中有四个关注平台对普通用户报告的回应： 指标 #3：用户是否被告知他们报告的内容是否违反了特定的平台政策（或未违反）？指标#4：内容是否因报告而被删除或以其他方式采取行动？指标#6：平台是否对通过其可信标记程序报告的内容采取了行动？

ADL 给那些在 24 小时内回复用户报告及其调查和执法决定结果的平台打分最高，如果他们在 72 小时内回复，则得分较低。如果在 72 小时后收到回复，ADL 将给出零分。值得注意的是，“普通用户”报告中没有一个收到回复，其中提供了平台采取或不采取行动的具体原因。内容审核背后的决策理由缺乏透明度令人不安。当用户没有被告知为什么删除或不删除某段内容时，他们会向 ADL 报告他们的挫败感；他们无法知道平台是否仔细审查了他们的报告，或者这些平台如何执行或不执行其政策。在上面的帖子中 - 向 Facebook 报告 - ADL 指出犹太大卫之星被称为 6 边多边形，据说其中包含暗指 666（新约启示录中野兽的数量）和犹太教的隐藏象征被称为“撒旦的会堂”。我们认为该帖子明显违反了 Facebook 的“有害刻板印象”政策，该平台将其定义为“历史上被用来攻击、恐吓或排斥特定群体的非人性比较，并且通常与线下暴力有关。”但是，Facebook 拒绝将其删除。此外，当内容被普通用户标记时，该平台未能具体说明它是如何做出这一决定的，这加剧了目前对 Facebook 上违反反犹太主义内容的内容缺乏明确性。作为本次调查的一部分，ADL 还使用受信任的举报渠道（如果由平台提供）在公司未对通过普通用户渠道报告的内容采取行动时报告内容。 ADL 是多家科技公司正式可信举报程序的成员，该程序为违规内容报告提供更快的升级路径。 ADL 以与评估对普通用户的响应相同的方式评估平台对可信标记者的响应——无论是在响应速度方面，还是根据报告是否采取行动。当 ADL 通过这些渠道报告内容时，在其可信标记程序 [3] 中包含 ADL 的每个平台的响应各不相同。虽然 TikTok 没有删除任何被 ADL 标记为普通用户的内容，但该平台删除了我们通过其可信标记程序作为合作伙伴组织报告的所有内容。 Twitter 和 Facebook/Instagram 没有删除普通用户报告的任何内容，但随后删除了我们通过其可信标记程序报告的 20% 的内容（分别为 5 分之 1 和 10 分之二的报告）。值得注意的是，YouTube 删除了普通用户标记的 60% 的内容（5 份报告中的 3 份）；它没有删除我们随后通过受信任标记帐户报告的其余两个内容。政策制定和执行对于评估科技公司如何解决其平台上的反犹太主义和其他形式的偏见都至关重要。但平台的设计对于打击包括反犹太主义在内的网络仇恨也至关重要。例如，用户发布辱骂评论的难易程度直接影响仇恨内容的流行程度和影响。出于这个原因，ADL 敦促平台将“摩擦”纳入其设计，让用户停下来，希望在发布某些类型的有害内容之前鼓励反思。而且，在接收方方面，有效解决在线仇恨的能力部分取决于报告系统的设计和构建方式。在这种情况下，与处理仇恨内容的发布者不同，消除摩擦很重要。用户应该能够轻松地向平台报告多个反犹太主义实例，而不是被要求分别报告每条反犹太主义内容。后者需要更多的时间和精力，降低了所有项目被报告采取行动的可能性，并使目标重新暴露于有害内容。在这一类别中，ADL 对 Reddit、TikTok、Twitter 和 YouTube 的以下产品变化给予了高分：

Twitter 和 YouTube 都实施了提示，每当用户尝试发布潜在的违规内容时都会弹出提示。这些提示要求用户检查自己并确认他们希望继续。 2020 年 7 月，Twitter 更新了其政策，删除了违反其仇恨政策的平台外内容的链接。这也导致在点击平台上的某些链接时涉及“插页式”的产品更改，例如上例中的白人至上主义网站 The Daily Stormer。除了关于垃圾邮件和间谍软件的警告之外，插页式广告现在还包含有关暴力或误导性内容的语言，可能会导致“现实世界的伤害”。 ADL 长期以来一直建议平台探索了解边缘化群体用户体验以及他们如何受到仇恨影响的方法。除其他外，这为网页设计师和工程师以及政策架构师提供了宝贵的见解，以更好地了解（和衡量）他们正在寻求减轻的危害。在 2020 年 12 月的更新中，YouTube 表示将允许来自边缘化社区的活跃内容创作者自愿向该平台报告他们的身份。这将使平台能够更仔细地研究来自特定社区的创作者如何成为仇恨的目标，并更好地跟踪和解决针对平台上特定身份群体的仇恨。 ADL 称赞 YouTube 的措施是朝着正确方向迈出的一步，我们也希望这会影响其他平台实施类似的产品更改。为反犹太主义、仇恨和其他形式的在线滥用行为所针对的用户配备批量报告评论的能力是另一个重要功能，它提供了更多的代理权来对抗巨魔、仇恨和骚扰。 ADL 和其他组织长期以来一直建议平台向用户提供此类功能。 TikTok 于 2021 年 5 月宣布了新功能，使用户能够一次报告多达 100 条评论，并批量屏蔽帐户。看看科技公司如何处理政策、回应反犹太主义的报告以及设计他们的产品以减轻反犹太主义很重要，但即使这三个领域也忽略了评估平台解决问题的性能的关键指标：流行度。任何给定平台上有多少反犹太主义？目前，没有一家科技公司提供任何关于其平台上任何特定形式仇恨范围的数据。为了让 ADL 等第三方全面了解社交平台上的反犹太主义和其他形式的仇恨，科技公司必须将数据提供给第三方，无论是独立研究人员、民间社会组织还是广泛的学术界，同时尊重用户隐私。为了评估平台在数据可访问性方面的表现，ADL 的技术与社会中心评估了以下内容： 指标 #8：平台在多大程度上使研究人员和民间社会组织能够轻松获取数据，从而实现第三方测量和审计?

社交媒体平台的大规模审计需要强大的应用程序编程接口 (API)，使公司能够与其他方共享其应用程序数据。 ADL 使用八个标准对平台的数据可访问性进行评分： 返回公共帖子并使第三方能够以最少的设置检索数据的公共 API 的可用性 非营利组织和研究组织可以使用的 API 的可用性；受信任的第三方可以访问更详细的数据 API 的可用性返回有关用户报告和内容审核的信息，以便第三方可以了解平台的行为 数据收集的速率限制，这意味着内容平台允许第三方在给定时间范围内加入，使第三方能够大规模收集数据 解释 API 使用的文档质量；第三方可以相对轻松地使用上述功能 ADL 建议每个平台都开发这些功能，但我们分析的九个功能中没有一个符合所有这些标准。 Twitter 和 Reddit 得分最高，因为两者都在高速率限制下提供强大的搜索和流媒体功能，允许收集大量数据。

然而，Twitter 可以通过减少发布限制来提高其得分，同时仍然想方设法尊重用户隐私。 Twitter 允许研究人员共享他们分析的推文 ID，但该平台不允许他们发布完整数据（文本、作者、喜欢、转发、bios 等）。忽略此限制的人可能会被撤销 API 密钥和开发人员访问权限。 Reddit 可以通过添加关键字搜索和提供工具来发现新的 subreddit 和帖子来做得更好。 ADL 建议 Reddit 和 Twitter 还为用户报告和内容审核信息创建 API。 Discord、Twitch 和 YouTube 得分居中，因为它们无法指定搜索条件或收集数据量有限，并且没有自动发现功能。 TikTok 缺乏用于收集任何类型的公共用户帖子数据的 API。 Facebook 支持通过 CrowdTangle API 收集数据，但严格监管谁有权访问该工具。 ADL 已请求访问 CrowdTangle，但因不明原因被拒绝。 Roblox 为研究人员提供有限的可访问性。