社交媒体平台占主导地位的商业模式强调强调其他所有方面的规模，使其特别容易受到虚假信息的影响。

Facebook和Twitter的商业模式带来了天文数字的增长-但付出了什么代价？

在过去的四年中，虚假信息已成为全球口号。在2016年美国总统大选期间俄罗斯干预社交网络之后，专家们对社交媒体将继续被武器化表示担忧，这些警告通常被视作夸张的说法。

但是1月6日对美国国会大厦的围困表明，通过社交媒体扩大网络阴谋的力量有多么强大。这次袭击是多年从特朗普先生，这憋足了拜登被宣布后，当选总统虚假的高潮 - 并在很大程度上社交媒体公司无力的产品，以控制其产品的武器。

多年来，我们目睹了各种不同的武器化方法正在形成。尽管俄罗斯干预表明适当的虚假信息可能会在社交媒体上传播，但2017年在弗吉尼亚州夏洛茨维尔举行的“团结起来”事件表明，一群白人至上主义者如何利用社交媒体策划暴力集会。国会大厦的围困同时具有这两种要素-涉及的意识形态范围比夏洛茨维尔大得多，参与者不仅在社交媒体上进行了协调，还通过社交媒体进行了整合。起义主义者团结一致，他们对唐纳德·特朗普的支持以及他们对大选已经从他那里被盗的错误信念。此刻，特朗普使用社交媒体从他的手机实时安全地向狂热的人群发送消息。

这就提出了有关平台发挥作用的基本问题。诸如Facebook和Twitter之类的主流平台被迫考虑其适度政策并面临监管要求。保守的社交媒体网络Parler以其简约的内容审核方法而引以为豪，但由于煽动暴力的帖子，包括围绕国会大厦袭击事件的计划和协调，已经失去了Apple，Android和Amazon Web Services的所有基础设施支持。如果没有跨基础架构服务的支持，应用程序和网站可能很难保持在线状态。

但是，为了知道接下来会发生什么，我们需要问：社交媒体是如何成为虚假信息的机器？这些科技公司的商业模式如何解释这种情况？

十多年来，当今的社交媒体巨头Facebook，YouTube和Twitter的商业模式一直在追求规模。视频共享平台Vine等伟大的想法被抛弃了，而股东KPI则与扩大用户群挂钩。这种方法有一个明显的弱点：当平台的增长取决于开放性时，它更容易受到恶意使用。正如我们现在所看到的，这种开放的业务模式可以使公司处于被迫忽略的方式。

导致此刻的阶段有几个关键阶段。每个人都以自己的方式说明了如何利用社交媒体平台的开放，以规模为中心的业务模型的漏洞。

相对较早，对增长的关注为假冒追随者和人为参与的影子行业的发展创造了条件。据内部人士称，这是众所周知的，但社交媒体公司避免了有关滥用其产品的讨论。随着越来越多的坏演员利用开放性作为财务机会，虚假的印象和点击损失了数十亿美元的广告费。

但是，当在线营销变成一种政治工具时，不良行为者的领域大大扩展了，他们可能造成的损害也很大。卡罗尔·卡德瓦拉（Carole Cadwalladr）打破了剑桥分析公司（Cambridge Analytica）丑闻后，社交媒体与英国脱欧和特朗普获胜等政治事件之间的联系变得清晰。这次事件提供了一个案例研究，说明如何将社交媒体中收集的数据重新用于针对特定受众，这些受众的内容会激怒政治紧张局势和联盟破裂，更不用说植物垃圾新闻了，而且通常会使混乱和混乱笼罩。

这一发展与对社交媒体用户敏感性的类似袭击相吻合-在2017年创建了被称为“ QAnon”的军迷小说。从披萨盖特阴谋的灰烬中崛起，声称希拉里·克林顿是儿童剥削网络的一部分在哥伦比亚特区，一个名为“ Q”的神秘帐户开始在信息板上张贴以模因，动漫色情和白人至上主义组织闻名的隐秘消息。 QAnon报道的核心内容是，特朗普秘密参与了与“深国”的战争，以逮捕克林顿，并制止由民主党人控制的撒旦阴谋集团崇拜从事大规模人口贩运活动的恋童癖者。多年来，QAnon的追随者被告知要“信任该计划”。 （是的，我知道这听起来很疯狂，但这种叙述将自己与新闻周期以及媒体的每一次曲折联系在一起，似乎阻止了特朗普执行其议程，这提供了更多的提要。）

随着QAnon的出现，边缘问题已成为主流，在Facebook，Reddit和Twitter上出现了Q讨论话题。该平台的增长模式意味着，在推荐中，具有较高参与度的内容和组将获得更高的优先级。换句话说，QAnon社区提供了社交网络珍贵的内容，并因此受益。一些特定事件，例如Jeffery Epstein被捕和拉斯维加斯大规模枪击案，引起了人们对Q帖子及其分析的新兴趣。 Q Networks还整合了Covid-19的出现，发动了一场骗局，声称大流行是民主党针对特朗普的阴谋，并为此组织了几次抗议活动。

后来，一些科技公司做出了回应。今年夏天，Facebook和Twitter采取了一些行动，删除了其产品上的Q网络。 Reddit没有相同的问题，因为他们早日采取行动删除了Q论坛，并且阴谋论从未在平台上站稳脚跟。但是当Twitter和Facebook采取行动时，Q社区已经计划进行平台删除，在具有较小网络的其他应用程序（如Gab和Parler）上创建冗余网络。

随着乔·拜登在11月的选举中，这些趋势的影响变得显而易见。选举的结果对那些被这些阴谋论饱和的人感到震惊。政治上被疏远的感觉，虽然在大流行期间也被孤立了，但是却激怒了许多Q追随者，以至于特朗普只需要在社交媒体上点燃这场比赛就可以传播数字野火之类的选举阴谋。

在直到1月6日的每一次事件中，道德责任都是减小规模并更多地关注病毒含量的质量。我们看到了不这样做的代价。

Siva Vaidhyanathan在他的《反社会媒体》一书中写道：“如果一家全球广告公司利用其20亿用户的大量档案资料来限制竞争，并邀请反民主力量以虚假信息充斥其渠道，则民主国家应该采取行动打破它并限制公司可以学习和使用的公民知识。”在国会大厦遭到袭击之后，我们看到了对此的兴趣日益浓厚。

当我们作为一个社会考虑下一步时，我们应该牢记，强调规模必须权衡安全。此外，不对虚假信息和病毒阴谋采取行动并不意味着它们最终会消失。事实上，情况正好相反。由于社交媒体似乎已将边缘人群带入了主流，通过将志趣相投的人们从平凡的人转变为完全离奇的人，科技公司必须提出一个内容策划和社区管理计划，以反映出更大的人类规模。

包括初创企业在内的科技公司都对过度扩张持警惕，风险投资公司应开始草拟示范政策，供监管机构考虑，同时要记住，开放和规模化不仅对利润而且对民主国家都构成重大风险。