Facebook在Derek Chauvin的审判之后遏制明尼阿波利斯毒性内容的近期措施提出了为什么公司一直不这样做的问题

周一，Facebook发誓，其员工是“遍布时钟”，以识别和限制可能导致判决在判决前明尼阿波利斯警察德里克·赤道德克·赤道的谋杀审判后发生骚乱或暴力的职位。在博客岗位中，公司承诺删除“赞扬，庆祝或嘲笑”乔治弗洛伊德的死亡。大多数公司的发言都达到了Phighy-Swearing，真的，真正强制执行其现有的社区标准，这些标准长期禁止欺凌，仇恨言论和煽动暴力。

虽然在帖子中埋葬了潮湿的事情，但是：“正如我们在过去的紧急情况下所做的那样，”公司的内容政策副总裁Monika Bickert“宣布，”我们也可能限制了我们的系统预测的内容的传播可能违反仇恨言论，图形暴力和暴力和煽动领域的社区标准。“译文：Facebook可能会在毒性内容上稍微扭转一下。这提出了一些问题：Facebook有一个有毒内容拨号？如果是的话，它在典型的一天设置了哪个级别？在一个到10的范围内，毒性水平通常是五个 - 或者它一直到11？

这不是Facebook已经第一次谈到减少炎症柱的扩增，使其平台更好，更安全。在2020年总统选举的过程中，Facebook谈到了“休息玻璃”措施，以限制误导和煽动对美国暴力的传播。此类步骤以前保留为“风险国家”，例如缅甸，埃塞俄比亚和斯里兰卡。现在，由于Chauvin试验，这些特殊措施可以部署在明尼阿波利斯，这是一个Facebook的Facebook“暂时被视为高风险的位置”。

当Facebook检测到社交紧张时，它建立了推广权威信息的政策，并添加“摩擦”，以便网站上的内容比平常更慢地移动。简而言之，公司缰绳在该景象中，在线平台否则如此壮观。 Facebook在很大程度上避免了选举日的史诗失败，纽约时报专栏作家凯文罗斯声称，“拨回了经过平台增长多年的增长的功能”。

这些类型的决定 - 关于什么平台选择放大或增加摩擦 - 是内容适度最重要的。关于内容适度的讨论倾向于关注有关各个内容是否留下或删除的二进制决定。但内容审核更多关于旋钮和调整帖子整体流程的旋钮。个人内容只是在Facebook内容的海洋中下降;移动此内容的底层系统是潮汐。关于内容审核的公众讨论通常会在滴剂上修复 - 应该使用唐纳德特朗普的帖子进行Facebook的措施？ - 当你风化时，事情是潮汐的重要事件。

Mark Zuckerberg同意。 2018年，Facebook首席执行官制定了“内容治理的蓝图”，其中包括哈佛法教授Jonathan Zittrain所说的应该是“内容适度的最着名的图表”。留在我 - 图表很有趣。

以上图表显示了通常在Facebook绘制策略行时发生的情况。帖子清楚地落在那条线 - 公开和可靠的煽动暴力对警察或抗议者的暴力行为，选择假设的榜样 - 将被取消。但是帖子不跨越线的帖子将自然地获得更多的参与，因为他们倾斜靠近它。在这个违约世界中，一个使用针对警方的仇恨语言的帖子可能会熬夜，因为警方不是受保护的课程，并且吸引更多的人喜欢和股票而不是批评执法政策基础的职位。换句话说，炎症岗位越多，可能会降落用户参与的向上曲线。 （这些示例是推测性的，因为Facebook没有提供有关“接近线路”方式的具体细节。）

但平台可以培训他们的系统来识别出这个“边界内容”并使订婚看起来像下面的图表：

在这种情况下，帖子的炎症越多，它得到的分布越少。描述仇恨术语中警方的帖子可能会留下来，但被证明更少。根据扎克伯格的说法，这种减少有害内容的“分布和病毒”的战略是处理它的最有效方法。

他是对的：战略工作！ Facebook最近倾向于用户在其平台上看到的仇恨语音和图形内容的数量。它是如何改进这些改进的？不是改变仇恨言论的规则。不是雇用更多人类内容主持人。不是通过炼制寻求规则破坏内容的人工智能工具来取消。进展是“主要是由于我们在新闻饲料中减少有问题内容的变化。”公司使用拨号，而不是开关。

Facebook的批评者指责它传播仇恨和暴力内容，因为这些材料会增加用户在网站上的时间，因此是公司的利润。该牵引可能会覆盖，过于简单。广告商不喜欢他们的广告旁边的分裂内容，并且在长期以来，用户不会继续回到一个让他们感到恶心的平台。尽管如此，员工的一些泄漏有详细的项目，以局限于出于商业原因在内部杀害的分歧或有害内容。在选举后，最多的10个员工最具终端的帖子，而不是在玻璃措施措施生效之前的更多主流新闻账户。该名单看起来与右翼病毒内容的通常票价不同，Facebook发布了一个尝试解释它的博客文章。 （本公司承认，临时措施发挥了作用，但建议他们不是改变的主要司机。）

如果没有对内部数据的任何独立访问，外人都无法知道Facebook的玻璃玻璃措施，或者其拨号通常坐在哪里。但Facebook有一个宣布这些步骤的理由。 （对于公司的信誉，它至少宣布了预期Chauvin判决的措施;其他平台似乎只是让他们的头脑下来。）该公司尚未解释的是为什么它的反毒性措施根本需要特殊。如果有一个原因在可能讨厌言论和煽动暴力的原因，一直都是一个坏主意，我看不到它。

Facebook的旧内部座右铭“迅速摆脱和突破”已成为围绕其颈部的信天翁，象征公司如何优先考虑增长和规模，留下混乱。但是，当面对炎症内容时，平台应该更快地移动并打破更多的玻璃。

Chauvin试验可能是一个独特的事件，但种族紧张和暴力显然不是。社交媒体内容导致离线伤害的内容不仅限于明尼阿波利斯或美国。这是一个全球问题。有毒的在线内容不是像差，而是互联网的永久性。平台不应该等到房子烧毁以做一些事情。