Nick Clegg捍卫Facebook，说它不是公司的兴趣，经济或声誉，不断推向用户更极端的内容

在最近为大西洋的文章中，Adrienne Lafrance与Facebook比较了一个世界末日机器：“一个通过销毁所有人类生活的唯一目的而建立的装置。”在Netflix纪录片的社交困境中，电影制作人想象一个数字控制室，工程师按下按钮，然后通过他的智能手机操纵一个十几岁的男孩。在她的书监督资本主义中，哈佛大学社会心理学家Shoshana Zuboff绘制了一张世界的画面，科技公司建造了一种巨大的监视系统，使他们能够操纵人们的态度，意见和欲望。

在这些禁止物的EAC H中，人们被描绘成无能为力的受害者，抢劫他们的自由意志。人类已成为操纵算法系统的播放。但这真的是真的吗？让机器真正接管吗？

据称，社交媒体燃料极化，利用人类的弱点和不安全感，并创造回声室，每个人都获得自己的现实，侵蚀公共领域以及对共同事实的理解。更糟糕的是，这一切都是故意在不懈的追求利润中完成。

在许多担忧的核心，是一种假设在人类与复杂的自动化系统之间的关系中，我们不是控制的关系。人工机构已被侵蚀。或者，作为乔安娜斯特恩在1月份在华尔街日记中宣布，我们“丧失了对我们所看到的，读 - 甚至认为 - 最大的社交媒体公司的控制。”

社交媒体的捍卫者经常被忽视或贬低这些批评 - 希望技术的3月将扫除它们，或将批评视为误导。这是一个错误：技术必须为社会服务，而不是另外一边。面对由富裕的全球公司经营的不透明系统，很难令人惊讶的是，许多人认为缺乏透明度，以满足技术精英而不是用户的利益。从长远来看，如果他们对他们的工作方式有更多的可视性，人们才会对这些算法系统感到舒服，然后能够对它们进行更明智的控制。

像Facebook这样的公司需要坦率地了解您与其主要算法之间的关系真正有效。他们需要给你更多的控制权。

一些评论家似乎认为社交媒体在技术的演变中是一个暂时的错误 - 一旦我们来到我们的集体感官，Facebook和其他平台就会崩溃，我们都将恢复到以前的沟通方式。这是一个深刻的误读情况 - 与2000年12月的日常邮件标题一样不准确“宣布互联网”可能只是一个传递的时尚。“即使Facebook不再存在，社交媒体也不会 - 不能 - 不认识。用于使用互联网进行社交联系的人类脉冲是深刻的。

像社交媒体这样的数据驱动的个性化服务使人们能够以前所未有的规模表达自己并与他人沟通。他们将工具放入全球数百万个小企业的手中，以前仅适用于最大的公司。个性化的数字广告不仅可以免费使用数十亿人使用社交媒体，对消费者而言比未明确，低关的广告也更有用。将时钟转回一些虚假的棕褐色的yesteryear - 在个性化的广告之前，在算法内容排名之前，在基层互联网的自由之前挑战了所说的权力 - 将丧失对社会如此多的利益。

但这并不意味着对人类和算法系统如何互动的担忧应该被解雇。有明显的问题有待解决和有关要回答的问题。互联网需要民主选举机构设计和商定的新规则 - 科技公司需要确保其产品和实践以负责任的方式设计，以考虑其对社会的潜在影响。开始 - 但绝不结束 - 将人们放置，而不是机器，更牢固地负责。

想象一下，当你接到伴侣的电话时，你就在回家的路上。他们告诉你冰箱是空的，并要求你在回家的路上挑选一些东西。如果你选择成分，他们会做饭。所以你由超市摆动，填充一个带有十几个物品的篮子。当然，你只选择你乐意吃的东西 - 也许你选择意大利面，而不是米饭，西红柿而不是蘑菇。当你回到家时，你打开厨房里的包包，你的伴侣随着烹饪而开始 - 决定用什么粉，使用哪种成分以及多少金额。当你坐在桌旁时，你面前的晚餐是联合努力的产品，你在杂货店和伴侣在厨房的决定。

互联网用户与呈现它们具有个性化内容的算法之间的关系令人惊讶地相似。当然，没有比喻是完美的，不应该从字面上拍摄。还有其他人从生产食物以设计包装并安排超市货架，所有这些行动都会影响最终用餐。

但最终，内容排名是人与算法之间的动态伙伴关系。在Facebook上，探戈需要两个。

在最近的讲话中，欧盟委员会的执行副总裁Margrethe Westager，将社交媒体与Truman展会的电影相比。在其中，吉姆卡雷伊的杜鲁门没有机构。他是现实电视节目的不知情之星，他的整个世界都被电视制作公司制作和操纵。但这种比较对社交媒体的用户并不公正。您是体验的积极参与者。

您的新闻饲料的个性化“世界”是由您的选择和行为的塑造。它主要由您选择连接到平台上的朋友和家人的内容，您选择关注的页面，以及您选择加入的组。然后，排名是使用算法来订购该内容的过程。

这是社交媒体的魔力，将其与旧形式的媒体区分开来。没有编辑决定FrontPage标题数百万将在Facebook上阅读。相反，有数十亿个前页，每个页面都是个性化的，我们的个人品味和偏好，并且每个都反映了我们独特的朋友网络，页面和组。

个性化在过去二十年中互联网进化的核心。从谷歌搜索到亚马逊购物，在Netflix上观看电影，互联网的一个关键特征是它允许丰富的反馈循环，其中我们的首选项和行为为我们提供了提供的服务。这意味着您获得最相关的信息，因此获得最有意义的经验。想象一下，如果，而不是根据您观看的事情呈现建议，Netflix只是列出了数千台电影的数千部，并按照最受欢迎的人节目。你甚至在哪里开始？

当您想到您如何体验Facebook时，您可能首先想到的是您在新闻饲料中所看到的。这基本上是Facebook的首页，个性化给您：一旦您在手机上打开Facebook应用程序或在计算机上登录Facebook应用程序，您滚动的文本，图像和视频的垂直显示。普通人有数千个帖子，他们可能会在任何一段时间内看到，从而帮助您找到您发现最有意义或相关的内容，我们使用称为排名的过程，该过程在您的饲料中订购帖子，放置这些过程我们认为你会发现最接近顶部的最有意义。这个想法是，这导致您最好的朋友的内容在您的饲料中被高兴，而几年前您遇到的熟人的内容通常会低得多。

每一部内容可能是潜在的功能 - 包括从朋友们没有看到的帖子，你关注的页面和你加入的组 - 通过排名过程。为这些帖子评估成千上万的信号，如谁发布了它，当它是照片，视频或链接，它在平台上的流行度，或者您正在使用的设备类型。从那里，该算法使用这些信号来预测它对您相关和有意义的可能性：例如，您可能是“喜欢”的可能性，或者发现观看它值得您的时间。目标是确保你看到你发现最有意义的东西 - 不要让你在最后几个小时才能粘在智能手机上。您可以在收件箱中思考这种情况上的垃圾邮件过滤器：它有助于过滤筛选内容，您将无法找到有意义或相关，并优先考虑您的内容。

在我们信用太多独立判断的“算法”之前，当然，这些系统由人们设计的情况。 Facebook的决策者最终决定平台上可接受的内容。 Facebook拥有详细的社区标准，多年来发达，禁止有害内容 - 并在开发识别它并迅速行动时的方式投资。

当然，Facebook是否在正确的地方绘制行，或根据正确的考虑，是合法公开辩论的问题。争辩说，私营公司不应该对自己可以接受的内容做出如此多的大决定是完全合理的。如果根据民主责任立法者同意的框架制定了这些决定，这显然会更好。但在没有这样的法律的情况下，有需要实时制作的决定。

去年，Facebook建立了一个监督委员会，以便对其中一些难度决定进行最终呼吁。这是一个独立的机构，其决定是绑定的 - 他们不能被Mark Zuckerberg或Facebook的其他任何人归因于Mark Zuckerberg。实际上，在撰写本文时，董事会已经推翻了大部分Facebook的决定。董事会本身由来自世界各地的专家和公民领导人，各种背景和观点组成，他们在今年早些时候开始发布判决和建议。该委员会目前正在考虑Facebook的决定，无限期暂停前美国总统唐纳德特朗普在他煽动的意见中，这是向国会大厦的恐怖场景做出了贡献。

通过排名过程更直接地解决了其他类型的有问题内容。例如，存在可能没有违反Facebook社区标准的内容类型，而是仍然存在问题，因为用户说他们不喜欢它们。对于这些，Facebook降低了他们的分发，因为它对帖子被视为虚假的帖子被一个超过80个独立的事实检查了评估Facebook内容的组织。换句话说，帖子如何与您在排名流程中的职权和有意义的可能性，并且帖子可能有问题（但非违规）的指标是负面的。最高分数后的帖子最接近您的饲料顶部。

这种筛选和排名过程导致了一个新闻饲料，它与指纹一样。但当然，你没有看到工作中的算法，你有限地了解为什么选择出现的内容以及如何，如果有的话，你可以做到改变它。在理解假设，半真半假和歪曲关于Facebook的作用如何扎根的情况下，它在这个差距。

Facebook批评者的许多费用核心是其算法系统积极鼓励分享耸人听闻的内容，并且旨在让人们无休止地滚动。当然，在周围建造的平台上分享他们对他们感兴趣或移动的东西，挑起强烈情绪的内容总是会分享。在一个级别，人们响应耸人听闻的内容并不是新的事实。随着几代报纸子编辑可以证明，情绪语言和逮捕图像抓住人们的注意力并从事它们。这是人性。但Facebook的系统并非旨在奖励挑衅内容。事实上，这些系统的关键部分旨在做到这一点。

Facebook减少了许多类型内容的分布 - 这意味着您的新闻饲料中的内容似乎较低 - 因为它们是耸人听闻的，误导性，免费征求征求订婚，或者被我们的独立事实检查合作伙伴被发现是假的。例如，Facebook Demotes Clickbit（误导或夸张的头条新闻），高耸的健康声称（如促进“奇迹咒诅”）和参与诱饵（明确寻求让用户与他们参与的帖子）。

Facebook的方法超出了逐次发布的耸人听闻和误导性的内容。当页面和组反复发布某些这些类型的内容，如ClickBait或错误信息，Facebook减少了这些页面和组的所有帖子的分布。当网站相对于互联网的其余部分生成一个极其不成比例的流量，这可以指示一种发布更敏感或垃圾内容的模式，Facebook同样可以通过这些网站运行的页面中的所有帖子降级所有帖子。

Facebook还调整了其对排名方法的其他方面，包括贬值耸人听闻的方式的方式。自平台初期以来，该公司依靠明确的参与度量 - 无论是人们“喜欢”，或分享职位，以确定他们将找到最相关的帖子。但是，这些指标的使用已经发展，并且其他信号Facebook认为已经扩展了。

2018年，Mark Zuckerberg宣布，他的产品团队不仅关注人们最相关的内容，而且还可以帮助他们有更有意义的社交互动 - 主要是通过促进来自朋友，家庭和团体的内容，他们是他们是过度内容的一部分他们关注的页面。效果是改变排名，使得明确的参与度量仍然在过滤可能与您最相关的帖子中仍然发挥着突出作用，但现在有一层额外的评估哪些相关的帖子也可能有意义你。在这样做时，他明确认识到这种转变将导致人们在Facebook上花费更少的时间，因为页面 - 媒体实体，体育队，政治家和名人之间的往往存在 - 通常会更加引人入胜，但虽然不太有意义的内容，说，你的妈妈或爸爸。预测被证明是正确的，因为变化导致每天在Facebook上花费的5000万小时的时间减少，并促使公司的市场上限损失了数十亿美元。

这种班次是Facebook排名内容的进展的一部分。该公司自以来多样化了其方法，找到了新的方法来确定人们发现最有意义的内容，包括直接向他们提出这些内容，然后将这些反应纳入排名过程。例如，Facebook使用调查来了解哪些帖子人们的觉得值得他们的时间，然后优先考虑预测的帖子以适应该法案。调查也用于更好地了解人们对人的有意义，页面和组的有意义，页面和群体以及基于响应更新的排名算法。这种方法提供了更完整的帖子类型，人们发现最有意义，评估他们在立即反应之外的经验，包括立即拉动任何耸人听闻的内容。

Facebook还在探索的相对早期阶段，探索是否以及如何等级的一些重要的内容不同的内容 - 类似的新闻，政治或健康 - 为了使您更容易找到有价值和信息性的帖子。上个月，据宣布正在考虑减少政治内容的新措施 - 耸人听闻的情况 - 在新闻饲料中，在新闻饲料中，他们希望看到他们希望看到较少的用户的强烈反馈。这遵循Facebook最近决定停止推荐美国的公民和政治群体，现在正在全球扩展。

这种进化也适用于人们加入共享利益或经验的群体。 Facebook已经采取了重要的步骤来使这些空间更安全，包括限制或删除违反其社区标准的成员或团体。

Facebook认识到有时代，有关在您的新闻饲料中优先考虑的主题问题的权威信息的更广泛的兴趣。但就像来自医生的消息告诉我们让我们的蔬菜或牙医提醒我们的牙医一样永远不会像名人八卦或政治专业人员那样参与，Facebook了解它需要补充排名过程，以帮助更多人找到权威信息。去年，它确实如此，帮助人们在Covid-19和美国选举中找到准确的最新信息。在两种情况下，Facebook创建了来自官方来源的链接和资源的信息中心，并在人们的新闻饲料顶部促进了这些。两者都达到了巨大的达到 - 超过6亿人点击了通过Facebook和Instagram的Covid-19的可靠信息来源，估计有450万美国人被帮助注册投票。

现实是，它不是在Facebook的兴趣 - 财务或声控 - 不断调高温度，推动用户更加极端的内容。

如果人们继续使用其产品，公司将最长的长期增长最佳服务。如果优先考虑在线让您在线保持额外的10或20分钟，但在这样做使您将来不太可能回归，这将是彻靠的。并牢记，绝大多数Facebook的收入来自广告。广告商不希望其品牌和产品展示极端或可恶内容旁边 - 这是一项在较高调的抵制期间明确明确的抵制许多家庭名称品牌。尽管令人不安的内容是总数的少量比例（仇恨演讲是在Facebook上的每10,000个内容的每10,000次内容中查看了7或8次），但抗议表明Facebook的财务自身利益是减少它，当然不鼓励它或优化它。

但即使您同意Facebook的激励措施不支持故意促进极端内容，仍然存在广泛的看法，即政治和社会极化，特别是在美国，由于社交媒体的影响而增长。这一直是近年来严肃的学术研究的主题 - 这在真理中的结果混合，许多研究表明，社交媒体并不是毕竟是极化的主要驾驶员，以及“过滤泡沫”的证据效果充其量薄。

去年的斯坦福国区的研究深入了解了40多年的九个国家的趋势，发现在一些国家，在Facebook甚至存在之前，极化是在互联网和互联网和Facebook使用的同时下降。 最近的最近的研究发现，美国的极化在最不可能使用互联网和社交媒体的人口统计中，在欧盟发表的数据表明，思想极化水平是否相似，无论您得到新闻吗？ ......