从事YouTube算法的开发人员说：“ YouTube的推荐是有害的”（2019年）

您每天还能在哪里找到有关如何排干洗衣机的方法指南，例如15分钟的猫呕吐汇编？这就是YouTube的用意，而且非常漂亮。

同时，由于YouTube已成为网络上视频的地方，因此引发了许多新问题。内容审核是一个长期的斗争，YouTube可以做得更好，但是人们总是可以找到一些令人反感的视频。但是，真正的问题是我们不搜寻的视频：YouTube的推荐。 [内容单位]

您可以在屏幕右侧的“上一步”列表中看到建议，并且在启用自动播放功能后这些建议也会自动播放。

根据Guillaume Chaslot的介绍，这些是您应该警惕的视频。他是一个项目的创始人，该项目要求AlgoTransparency在线平台提高透明度，并曾在Google的YouTube推荐算法上工作。他说，其背后的动机存在很大缺陷，因为它并不是真正关于观众的需求。

“ YouTube使用AI来为您推荐视频并不是天生的可怕，因为如果AI调好了，它可以帮助您获得所需的内容。真是太神奇了，” Chaslot告诉TNW。 “但是问题在于AI并不能帮助您获得所需的东西，而是可以使您沉迷于YouTube。建议旨在浪费您的时间。”

Chaslot解释说，算法用来确定“成功”推荐的指标是观看时间。对于尝试销售广告的公司而言，这可能很棒，但不一定能反映用户的需求，而且副作用很大。

在上个月举行的DisinfoLab会议上的演讲中，Chaslot指出，通常会广泛推荐具有分裂性和轰动性的内容：例如阴谋论，虚假新闻，平坦的视频。基本上，它越接近YouTube政策所允许的范围，就会获得更多的参与度。 Google完全不同意Chaslot，但稍后我们会解决。

YouTube推荐算法的基本结构在其核心内容（例如猫视频，游戏和音乐）上可能效果很好。但是，随着YouTube在人们的信息和新闻消费中变得越来越重要，Chaslot的担心建议将使人们进一步走向极端（无论他们是否愿意），这仅仅是因为让我们保持尽可能长的观看时间符合YouTube的利益。

马克·扎克伯格（Mark Zuckerberg）去年承认边界内容更具吸引力。 Google不想回答TNW关于YouTube是否适用的问题，但该公司发言人在DisinfoLab会议上的讨论中说，该公司的研究表明人们实际上更多地参与了高质量的内容。查斯洛特说，这是大型科技公司之间必须辩论的事情，但是根据他自己的经验，他更倾向于相信扎克伯格。

查斯洛特说：“我们必须意识到YouTube的推荐是有毒的，并且会扰乱公民的讨论。” “目前的动机是创建这种引人入胜但不被禁止的边界内容。”基本上，您制作的内容越奇特，就越有可能吸引人们的关注，反过来又会使其更有可能被算法推荐，从而为创作者和YouTube带来更多收入。

在Chaslot的脑海中，应该足以指出该算法的动机已被完全打破（即观看时间不等于质量），以此说明它为什么对我们这个社会不利。但是为了真正展示其效果，他在离开Goog​​le后制作了AlgoTransparency工具。该工具旨在使人们更好地了解YouTube上实际推荐的内容。

基本上，它会尝试找出大多数渠道共享的视频，以提供您无法通过个人浏览获得的概述。 Chaslot指出，大多数情况下，最受推荐的视频是无害的，但时不时地会弹出有问题的视频。

该视频由俄罗斯政府资助，从236个不同频道中推荐了超过100万次。 https://t.co/aRNUx2WIOm

穆勒（Mueller）报告详细介绍了俄罗斯与唐纳德·特朗普（Donald Trump）的总统竞选活动之间是否存在任何勾结，查斯洛特（Chaslot）注意到，大多数渠道推荐的分析是RT的视频，RT是由国家赞助的俄罗斯宣传机构。

这意味着，如果Chaslot是正确的，YouTube的算法会放大一段视频，解释有关……俄罗斯可能在俄罗斯串通的发现。该视频秉承了克里姆林宫友好的叙事方式，并抨击了主流媒体。当然，Chaslot的主张引起了媒体的关注，并被广泛报道。

Chaslot说，尽管其他与Mueller相关的视频获得了更多的总体推荐，但RT视频却脱颖而出，因为尽管疯狂地观看了很少的视频，但推荐它却疯狂了两天，然后再没有推荐。

查斯洛特说：“与推荐的视频相比，看到如此多的频道推荐了这部视频，真是很奇怪，”奇怪的是，没有人真正了解这是为什么发生的。

现在，让Google站在一边是很重要的。 Google完全否认了AlgoTransparency的方法（您可以在此处找到），并告诉TNW，它无法准确反映建议的工作方式-基于调查，喜欢，不喜欢和分享。

与AlgoTransparency所做的大多数断言一样，我们无法在此处重现结果。我们设计了系统，以确保来自更权威来源的内容在搜索结果中突出显示，并在某些情况下（包括观众在YouTube上观看新闻相关内容时）观看下一个推荐。

Chaslot说，如果他的结果有差异，他很想知道它们是什么。最好的方法是让Google轻松分享YouTube向人们推荐的视频。但该公司尚未透露有关此事的更多信息。

Chaslot还指出，看来他的方法设法突出算法中与Google相似的错误。今年早些时候，一位Google软件工程师发表了有关纠正YouTube偏差的演讲，其中一个视频示例曾被AlgoTransparency标记过。因此，关于他的方法的某些事情似乎正在奏效，但直到Google对建议变得更加透明之后，我们才知道。

YouTube现在实际上并没有提供任何选项供用户控制他们收到的推荐。当然，您可以封锁某些频道，但Chaslot指出，由于您已经对这种类型的内容“表现出了兴趣”，该算法仍可能会将您推向相似的频道。所以，你可以做什么？

“最好的短期解决方案是简单地删除推荐功能。我真的认为这对用户根本没有用。” Chaslot解释说。 “如果YouTube希望保留推荐，它可以坚持通过电子邮件完成的精选推荐-人们可以确保在那里没有疯狂的举动-或者只是让它们坚持您订阅的频道。”

查斯洛特还承认，大多数人（包括他本人）都很好奇，不想点击边界内容，因此他使用了一个名为Nudge的Chrome扩展程序，该扩展程序删除了诸如Facebook的新闻提要和YouTube建议之类令人上瘾的在线功能。 “当我看到愚蠢的东西时，我仍然会点击它们，所以最好的办法就是删除它们。”

所有这些只是为了治疗症状，而不是原因。 Chaslot认为，真正的重点应该放在长期解决方案上。目前，用户正在与超级计算机作斗争以试图保护自己的自由意志，但这与当前工具是一场失败的战斗。

因此，Chaslot坚信前进的唯一方法是提供适当的透明度并为用户提供真正的控制权：“从长远来看，我们需要人们控制AI，而不是由AI控制用户。”