报告发现，YouTube 继续向易受极端主义、白人至上主义影响的用户推送危险视频

一份新报告发现，YouTube 继续向易受极端主义、白人至上主义影响的用户推送危险视频，报告发现谷歌的 YouTube 仍在向已经容易受到种族仇恨影响的观众推荐极端主义和白人至上主义视频。根据来自美国的一项全国性研究，尽管美国最受欢迎的社交媒体平台在政治压力下删除了大量极端主义内容，但有害视频的曝光仍然很普遍，观看极端主义视频的用户仍然被推荐新的剪辑。反诽谤联盟 (ADL) 于周五发布，其预发本仅与《今日美国》共享。根据该研究调查了 915 名受访者的观看习惯，十分之一的研究参与者至少观看了一个极端主义频道的视频，十分之二的人至少观看了一个“替代”频道的视频。该研究的作者通过引用已发表的关于在线激进化的研究来定义极端主义和另类。罪魁祸首？ YouTube 的推荐算法。研究发现，当用户观看这些视频时，他们更有可能看到并遵循对类似视频的推荐。例如，研究人员发现，已经在 YouTube 上观看过极端主义视频的用户被推荐观看其他极端主义视频的几率接近 30%。尚未观看极端主义 YouTube 视频的人不太可能被引导至此类内容，这表明该公司限制仇恨言论的一些努力正在奏效。在观看其他类型的视频后推荐可能有害的视频也很少见。

ADL 表示，调查结果强调需要平台消除暴力极端主义团体和内容，这些内容会助长现实世界的暴力行为，例如 1 月 6 日对美国国会大厦的围攻。报告作者、达特茅斯学院政府学教授布伦丹·尼汉 (Brendan Nyhan) 在一份声明中说：“尽管 YouTube 最近做出了一些改变，但我们的调查结果表明，仍有太多人在该平台上接触到极端主义思想。” YouTube 发言人亚历克斯约瑟夫在一份声明中说。 “我们欢迎在这方面进行更多研究，但在美国，从推荐中获得的此类内容的观看次数下降了 70% 以上，正如其他研究人员所指出的，我们的系统通常指向权威内容。” “事实是，他们还没有解决这个问题，他们仍在向已经在消费极端主义内容的人们提供越来越多的极端主义内容，这是一个问题，”播客作家兼主持人布里奇特·托德 (Bridget Todd) 说。在互联网上没有女孩。” “他们真正需要做的是认真地将这类东西从他们的平台上移除，并真正做一些工作来防止他们在 YouTube 上进一步激化人们。”加利福尼亚州众议员 Anna G. Eshoo 是能源和商业通信与技术小组委员会的成员，就 ADL 的分析发表了一份声明：“这些发现令人震惊。他们为 YouTube 需要重新思考核心设计的原因提供了一个清晰的案例其产品。”多年来，一项又一项的研究表明，YouTube 是白人至上主义者和其他仇恨团体的扩音器，也是新兵的管道。 YouTube 表示，它已大大减少了对至上主义视频的观看次数，并继续制定针对仇恨言论的对策。

“我们有明确的政策禁止在 YouTube 上发表仇恨言论和骚扰，并在上个季度终止了超过 235,000 个违反这些政策的频道，”YouTube 的约瑟夫说。 “除了删除内容之外，自 2019 年以来，我们还通过确保我们的系统不会向那些不寻求它的人广泛推荐它来限制不违反我们的政策但会触犯法律的内容的覆盖范围。”但是，为什么世界上最大的公司之一花了这么长时间才对日益严重的本土极端主义问题做出反应，这让研究人员感到困惑。埃隆大学研究网络极端主义的计算机科学教授梅根·斯奎尔（Megan Squire）说：“当你与参与（白人至上主义）运动的人交谈时，或者当你在这些人谈论的聊天室里阅读时，几乎都是关于 YouTube 的。” ，12 月告诉《今日美国》。 “他们的‘红色药丸’时刻几乎总是在 YouTube 上，”斯奎尔说，他指的是极右翼流行的一个术语，用来描述人们突然意识到白人至上主义者和其他阴谋论者一直都是正确的。 2019 年，来自巴西和欧洲的一组学术研究人员发表了一项开创性的研究，研究了 YouTube 上的激进化。通过分析超过 7200 万条 YouTube 评论，研究人员能够跟踪用户并观察他们迁移到平台上更多仇恨内容。他们得出结论，YouTube 上存在长期假设的“激进化管道”，其算法加速了激进化。但另一项学术研究得出的结论是，虽然 YouTube 上存在极端主义的“回声室”，但没有证据表明它们是由该平台的推荐引起的。

根据已发布的报告，多年来，YouTube 高管无视员工的警告，即其推荐功能旨在增加人们在网上花费的时间并产生更多广告收入，从而引发了极端主义内容的传播。在 2017 年遭到广告商的强烈抗议后，YouTube 禁止广告与宣扬仇恨或歧视或贬低受保护群体的内容一起出现。 YouTube 限制了对这些视频的推荐并禁用了评论和分享等功能。但它并没有删除它们。该公司表示，此次打击行动将至上主义视频的观看次数减少了 80%。去年，YouTube 对其推荐功能进行了更改，以降低其所谓的“边缘内容”的可见性，即违反其服务条款但不破坏服务条款的视频。同样在 2019 年，它删除了数千个频道并收紧了仇恨言论政策，以禁止声称任何群体优越的视频，“以证明基于种族、宗教或性取向等品质的歧视、隔离或排斥是正当的。”但 ADL 研究表明，此类内容仍然可以在网站上轻松访问，托德想知道为什么像谷歌这样的大公司不能简单地从 YouTube 上彻底根除仇恨言论。 “其他平台已经发现了这一点，”托德说。 “我不相信这是他们无法控制的事情。”