Facebook有一个衡量“暴力和煽动趋势”的指标。它在上升。
提供给BuzzFeed News的Facebook内部图表重新创建，展示了社交网络如何跟踪其平台上某些标签和关键字的暴力和煽动趋势。根据内部数据，自10月31日以来，由于围绕美国总统大选的不确定性，该指标上涨了45%。
在全国范围内统计选票以确定下一任美国总统之际，Facebook的内部数据显示，该公司所称的“暴力和煽动趋势”显著增加。
在Facebook内部留言板上的一个小组的帖子中，一名员工提醒他们的同事，在过去五天里，该指标增加了近45%。该指标基于标签和搜索词来评估潜在的危险。BuzzFeed News看到的这篇帖子指出，以前的趋势是“缓慢”上升的，但最近“一些阴谋论和普遍的不快乐帖子/标签”越来越受欢迎。
该帖子的作者写道：“在过去的几天里，对Explore的‘可能的暴力和煽动’的衡量标准一直在缓慢上升。”他指的是Facebook的“Explore”搜索工具。“危险的标签看起来有点阴谋论的味道。”
此前没有报道的内部指标在10月31日的得分约为400。截至周四上午，该指数升至近580的24小时均值。
尽管Facebook有一项针对暴力和煽动的政策，但衡量标准的存在表明，该公司在多大程度上积极衡量其平台上可能助长动乱的活动。近年来，这个社交媒体平台因煽动缅甸种族灭绝、助长菲律宾政治动荡，以及在威斯康星州基诺沙等地教唆组织国内极端主义而广受批评。
“暴力和煽动”数字的迅速上升表明，该公司自己的内部指标发现，随着唐纳德·特朗普(Donald Trump)总统和他的支持者试图向计票过程注入毫无根据的怀疑，Facebook上的帖子正在导致美国总统大选计票工作的不稳定局面。
你在Facebook或其他科技公司工作吗？我们很高兴收到你的来信。联系[email protected]，[email protected]，或通过我们的举报热线渠道。
在这篇帖子中，这位Facebook员工强调了一系列话题标签，从特朗普流行的口号，包括#Drain TheSwamp，#Trump2020，#KeepamericaGreat，到#WatchTheWater这样的“qanon式”言论，不一而足。QAnon是越来越多的总统支持者和共和党政客推动的集体错觉，他们认为由深度国家特工和性虐待儿童的人组成的秘密阴谋控制着政府。
这位员工写道，这些越来越受欢迎的标签指向了总体主题，即“民主党人窃取选举，不信任选举结果，支持特朗普。”
这位员工在他们的帖子中说：“我不会惊慌，因为这些标签大多不是很流行，但这似乎是一种建设趋势，理想情况下，我们应该在势头增强之前停止。”“虽然这些标签不像#RiggedOptions和#VoterFragence那样有明显的风险，但它们确实促进了类似的想法；考虑到我们已经获准屏蔽这些标签，如果我们能为这些‘边界’标签想出一个标准，那就太好了。”
这名员工的言论表明，该公司已经在监控和压制标签，这些标签引发了人们对选举过程的怀疑，并违反了公司的服务条款。Facebook发言人利兹·布尔乔亚拒绝透露该公司取消了哪些标签，也拒绝透露暴力和煽动这一指标使用了多长时间。
她说：在这段高度不确定的时期，我们正在保持警惕，以发现可能煽动暴力的内容。我们在这段时间之前已经准备好了产品和政策，这样我们就可以迅速地根据我们的计划采取行动。
伍德罗·威尔逊国际学者中心(Woodrow Wilson International Center For Scholars)的虚假信息研究员尼娜·扬科维奇(Nina Jankowicz)说，她不知道Facebook有一个衡量“暴力和煽动”趋势的指标，并为他们正在追踪这一趋势而感到鼓舞。不过，她说，压制个人标签“不会奏效”。
Jankowicz说：“我们谈论的是Facebook更广泛的结构，它激励这些社区组织和鼓励线下暴力。”他说：“我不确定他们对此有没有把握。这些天来，他们依靠这种结构来保持人们的参与度，并从中赚钱。
这名员工就“暴力和煽动”指标发表报告的几个小时前，Facebook屏蔽了一个快速增长的名为Stop the Step的群，部分原因是该群的36.5万多名成员中流传着暴力行为的呼声。该组织是周三由明显的共和党特工组成的，成员们利用它来挑拨计票过程，组织抗议活动，并发出威胁。
在Facebook被关闭之前，该社交网络在不到48小时的时间里就聚集了超过36万名成员。其成员曾利用该组织煽动暴力和有关美国总统选举计票过程的错误信息。
脸书发言人安迪·斯通在一份声明中说：“为了配合我们在这段高度紧张的时期采取的特殊措施，我们已经下架了‘阻止偷窃’这个组织，这个组织制造了真实世界的事件，”Facebook发言人安迪·斯通(Andy Stone)在一份声明中说。“该组织是围绕选举程序合法化而组织的，我们看到该组织成员发出了令人担忧的暴力呼声。”
虽然Facebook在接到多起投诉和媒体对该组织的提问后采取了行动，但其组织者已经为该组织被禁止的情况做好了准备。周四上午，该群的注册流程要求潜在成员加入一个直接邮寄名单，“以防社交媒体对该群进行审查。”
在周四的全公司电话会议上，Facebook首席执行官马克·扎克伯格(Mark Zuckerberg)和全球事务副总裁尼克·克莱格(Nick Clegg)表示，该组织因试图使计票过程合法化而被除名。英国前副首相克莱格补充说，尽管Facebook在不到48小时的时间里就积累了超过36万名会员，但Facebook已经“为此做好了准备”。
在大选之前，该公司暂时禁止了政治和社会问题团体的推荐，尽管Stop the Step似乎在没有任何算法分发的情况下有机地在整个平台上传播。
威斯康星州参议员塔米·鲍德温(Tammy Baldwin)批评Facebook对Stop the Step等组织反应迟缓，并补充说，现在是该公司开始“提供答案”的时候了。
她在一份声明中说：“当Facebook被用来宣扬暴力和破坏民主时，马克·扎克伯格需要停止措手不及。”“Facebook有追踪暴力的工具，现在他们需要用他们的工具来阻止暴力在他们平台上的传播。”
弗吉尼亚州参议员马克·华纳(Mark Warner)说：“令人担忧的是，Facebook继续拒绝对已经成为暴力组织必备工具的产品和功能做出有意义的改变。”“当一个设计糟糕的产品的风险是可以预见的时，没有采取措施修复产品以解决这些风险的企业通常要对其造成的危害负责。”
在周四的全体会议上，扎克伯格首先讨论了选举，并感谢他的员工为准备这场有争议的投票所做的工作。他回答了员工何时返回办公室以及他们的加密货币部门的进展情况的问题，并表示，对该公司的任何监管可能更难实现，因为这个国家似乎正走向一个分裂的政府。
然而，有一个问题让他犹豫了一下，那就是如何让Facebook“充满更多的爱和更少的分歧”。他说，到目前为止，选举结果似乎表明，这个国家相当分裂。
扎克伯格说：“我希望通过建立一个强大的社区生态系统--人们可以加入对他们有意义的团体--这就是人们建立更强大的社会结构的方式。”
一小时前，Facebook封杀了一个试图破坏美国民主的组织。扎克伯格没有承认这一表面上的矛盾，而是继续前进。在结束与员工的讨论时，他回答了有关进食压力和他最不喜欢的万圣节糖果的问题。
“银河系，”他说。“我从来都不是银河系的人。”
