基督城射击游戏和YouTube的激进陷阱

根据该国政府的一份新报告，YouTube，Facebook和其他社交媒体平台助长了这名恐怖分子的激进分子，该恐怖分子在2019年3月对两座新西兰清真寺的袭击中杀死了51名朝拜者。与WIRED交谈的在线激进专家说，尽管此后平台开始压制极端主义内容，但顶级社交媒体网站背后的基本商业模式仍然在在线激进中发挥作用。

根据本周发布的报告，恐怖分子经常在网上观看极端主义内容，并捐赠给白人至上主义者网站Daily Stormer和Stefan Molyneux极右翼的Freedomain Radio等组织。他还直接给了奥地利极右翼运动家马丁·塞纳（Martin Sellner）。报告说：“该人声称他不是极右翼网站的常客，而YouTube对他来说是更为重要的信息和灵感来源。”

恐怖分子对极右翼的YouTubers和8chan等前卫论坛的兴趣并不是启示。但是直到现在，他参与这些在线极右组织的细节尚未公开。一年多之后，YouTube和其他平台已采取步骤，对在其网站上传播的白人至上主义内容承担责任，包括删除受欢迎的内容创建者并雇用数千名主持人。然而，据专家称，直到社交媒体公司对黑匣子政策乃至算法敞开大门，白人至上主义的宣传将永远只有几下之遥。

＆＃34;问题比识别和删除有问题的内容要深得多，＆＃34;新西兰政府发言人通过电子邮件说。一旦人们表现出兴趣，可以使人们适应该平台并使用广告的相同算法也可以促进有害内容。＆＃34;

三位专家在与WIRED进行了交谈，他们对政府报告进行了审查后说，克赖斯特彻奇袭击者实现激进的途径完全没有例外。他来自一个破败的房屋，从小就遭受家庭暴力，疾病和自杀。他不受监督地使用计算机，在其中玩在线游戏，并在14岁时发现了在线论坛4chan。该报告详细介绍了他如何在学校表达种族主义思想，并两次邀请他与反种族主义联络官就反犹太主义进行对话。该报告将他描述为“个人参与有限”的人，“他从互联网和书籍中发现的极右翼材料留下了相当大的影响力。”除了作为私人教练工作了几年之外，他没有稳定的工作。

恐怖分子的母亲告诉澳大利亚联邦警察，她的担忧在2017年初变得越来越严重。“她记得他在谈论西方世界即将走向终结的原因，因为穆斯林移民正返回欧洲并会繁殖欧洲人。” 。恐怖分子的朋友和家人提供了有关他的激进主义的叙述，并得到了他的互联网活动的支持：共享链接，捐赠，评论。虽然他不是右翼网站的常客，但他在YouTube的极端地区度过了充裕的时间。

斯坦福大学研究员和博士候选人贝卡·刘易斯（Becca Lewis）于2018年发表的一份令人发指的报告描述了YouTube上的替代媒体系统，该系统为年轻观众提供了极好的宣传。从主流保守派和自由主义者到明显的白人民族主义者，这个渠道网络相互协作，将观众吸引到越来越极端的内容流中。她以Stefan Molyneux为例。她说：“他一次又一次地被证明是人们激进化的重要载体。” “他声称种族之间存在科学差异，并提倡揭穿伪科学。但是因为他不是一个自认或公开的新纳粹分子，所以他被更多具有主流平台的主流人士所拥护。” YouTube于今年6月删除了Molyneux的频道。

刘易斯说，这种“放大的阶梯”在某种程度上是YouTube创作者商业模式的副产品。收入与收视率直接相关，曝光率是货币。尽管这些创作者网络相互抵消了粉丝群，但吸引更多观众的动机也激励他们发布越来越煽动性和煽动性的内容。她说：“我发现最令人不安的事情之一，不仅是观众激增的证据，而且还从字面上表明创作者的内容越来越激进的数据，”

YouTube发言人在一封电子邮件声明中说，自从基督城发生悲惨袭击以来，该公司在打击YouTube仇恨言论方面的工作取得了重大进展。这位发言人援引2019年加强的仇恨言论政策说，“从YouTube删除的仇恨视频的数量已激增5倍。” YouTube还更改了其推荐系统，以“限制边界内容的传播”。

YouTube表示，在上个季度因违反其政策而终止的180万个频道中，有54,000个是仇恨言论，这是有史以来最多的。 YouTube还删除了9,000多个频道和200,000个视频，原因是这些视频违反了煽动暴力极端主义的规定。除了Molyneux，YouTube的6月禁令还包括David Duke和Richard Spencer。 （克赖斯特彻奇恐怖分子向斯宾塞管理的国家政策研究所捐款。）Facebook表示，它已从其平台上禁止了250个白人至上主义团体，并加强了其危险的个人和团体政策。

Lewis表示：“很明显，业务模式的核心对使此内容增长和蓬勃发展具有影响。” “他们调整了算法，将某些人踢出了平台，但他们尚未解决该潜在问题。”

根据设计，在线文化不会以YouTube或其他任何地方开始和结束。跨平台共享是社交媒体业务模型的基础。 “ YouTube不仅仅是人们娱乐的地方；他们被这些社区所吸引。毫无疑问，这些活动可以让您通过评论参与，也可以通过捐赠和增加其他地方的内容来参与。”哈佛大学肖恩斯坦媒体，政治与公共政策中心研究主任琼·多诺万（Joan Donovan）说。根据新西兰政府的报告，克赖斯特彻奇恐怖分子定期分享极右翼的Reddit帖子，Wikipedia页面和YouTube视频，包括在未命名的游戏网站聊天中。

克赖斯特彻奇清真寺的恐怖分子也追踪并张贴在几个白人民族主义者的Facebook团体上，有时对移民和少数民族发表威胁性评论。据采访他的报告作者说，“个人不接受他的评论会引起反恐机构的关注。他之所以这样想，是因为可以在互联网上找到大量类似的评论。” （与此同时，他确实采取了一些措施来最大程度地减少数字足迹，包括删除电子邮件和卸下计算机的硬盘驱动器。）

多诺万说，在没有背景或警告的情况下重新张贴或宣教白人至上主义者，为流传边缘思想铺平了道路。她说：“不幸的是，我们现在必须研究这些平台如何提供广播和规模的能力，而现在已经开始起到消极作用。”

YouTube的商业激励措施不可避免地阻碍了这种透明度。外部专家没有很好的方法来评估或比较使极端主义跨平台传播最小化的技术。他们通常必须依靠企业发布的有关其自身平台的报告。反诽谤联盟技术与社会中心副主任丹尼尔·凯利（Daniel Kelley）表示，尽管YouTube报告的极端主义内容删除活动有所增加，但该措施并不能说明其过去或现在的流行程度。公司外部的研究人员不知道推荐算法以前如何工作，如何更改，现在如何工作以及效果如何。而且他们不知道“边界内容”是如何定义的-考虑到许多人认为它在YouTube，Facebook和其他地方仍然很普遍，这一点很重要。

凯利说：“很难说他们的努力是否得到了回报。” “我们没有任何有关它是否真正起作用的信息。” ADL已向YouTube进行了咨询，但是Kelley说，他还没有看到任何有关如何定义极端主义或在其上培训内容主持人的文件。

对极端主义内容的传播的一种真实的估计激励了大型技术投入大量资金来寻找解决方案。对此问题进行适度的投掷看来是有效的。有多少被禁止的YouTuber逐渐消失了？但是，节制并不能解决社交媒体作为企业的基础（创建影响者，跨平台共享和黑匣子政策）也是使网上仇恨持久的必要因素。

由于违反了YouTube的审核政策，克赖斯特彻奇射击游戏分享的许多YouTube链接已被删除。通过他们和其他社交媒体设计的人与思想网络仍然存在。