Facebook首席执行官Mark Zuckerberg今天在国会之前作证,他可能有一些更不舒服的问题来回答。其中,为什么Facebook自动化页面为白色至高无上的群体?
科技透明度项目的研究人员发现,当一个用户在将其作为雇主列出时,Facebook为“通用aryan兄弟会移动”等群体创造了数十个页面。一些自动化的页面当研究人员发现的时间时,达到了数千个喜欢的人。 TTP还发现了用户创建的四个Facebook组。研究人员与Facebook分享了他们的发现,删除了大多数页面。然而,当集团发布其调查结果时,两个自动化的页面和所有四个Facebook组仍然活跃。
据报道,在新西兰清真寺的2019年大众射击之后,Facebook禁止了“白色民族主义者”内容,在早期禁止白天至高无上的含量。
研究人员并不难以找到违法的页面和群体。他们只是在Facebook上搜索了由反诽谤联赛和南方贫困律中心确定的新纳粹和白色至高无上的群体的名称。他们查询的一半以上的组返回结果。共有113个白人至上,组织和团体在Facebook上存在了存在,有时候不止一个。一个在十年内已经活跃的一个用户生成的页面有42,000人喜欢。 10个其他页面和一组每次都有1000多个喜欢。
Facebook的审核系统大部分依赖于人工智能来销售人类主持人的潜在违规行为,这是一种似乎很容易被挫败的系统。单词的简单拼写错误 - 无论是添加元音还是使用$代替S,例如 - 已经足以融合算法适度。
Facebook自己的用户界面算法也在很短。 TTP发现,在一个名为“纳粹低骑手的组织的页面上,Facebook建议用户也喜欢”aryanbrothellood“的页面。
该公司对网站上的崛起极端主义的策略也似乎失败了。寻找已知的仇恨群体应该在仇恨之后将用户指向终身的页面,这是一种旨在嘲笑右翼极端分子的非营利组织。但是,只有在221中的14中工作,只搜索研究人员进行的。
根据TTP和Buzzfeed的相关调查,Facebook对远方的MILITIA有类似的问题。 Facebook去年8月禁止了几个激进分子团体,但研究人员对一些民兵来说仍然活跃的自动化页面。
今年早些时候,Facebook在美国国会大厦的1月6日起在暴力中发挥作用的第6月的叛乱之后,遭到了火灾。报告显示,由于人们在集会和相关攻击方面组织组织的人不仅是人们,而且许多人被Facebook及其平台在内的,包括Instagram。
自2018年以来禁止了包括骄傲的男孩,包括骄傲的男孩,包括骄傲的男孩的叛乱的群体提到。然而,最近几周的TTP研究人员发现民兵群体传播宣传宣传。其中包括一个三分钟的“亮点卷轴”的国会大厦骚乱以及攻击黑人生活抗议者的骄傲的男孩。
Facebook的团体问题在公司内没有被忽视。 Facebook自己的研究人员早在2020年8月推出顶级高管,该平台上的100个最活跃的100个最活跃的美国“公民”团体中的70%被认为是不适合的仇恨,误导,欺凌和骚扰等问题。“一个特别大的群体,58,000名成员每天传播“热情的暴力。”
Facebook的对抗极化的渴望长期以来一直是最大限度地获得参与的赔率。 2017年,内部任务队发现减少现场的极化也会减少参与。工作队很快被解散,其中大部分建议的修复都是搁置的。