将虚假信息武器化可能会导致城市电网瘫痪

社交媒体使得通过虚假信息和假新闻以前所未有的规模操纵大众成为可能。从安全角度来看，这尤其令人担忧，因为事实证明，在保护关键基础设施，特别是电网时，人类是最薄弱的环节之一。在这里，我们考虑一种攻击，在这种攻击中，对手试图通过发送虚假的折扣通知来操纵能源消费者的行为，鼓励他们将消费转移到需求高峰期。以大伦敦地区为例，我们表明，这种虚假信息确实会导致不知情的消费者同步他们的能源使用模式，如果电网负荷过重，还会导致城市规模的停电。然后，我们进行调查，评估人们跟进此类通知并将其转发给朋友的倾向。这使我们能够对虚假信息如何通过社交网络传播进行建模，从而潜在地放大攻击影响。这些发现表明，在一个虚假信息可以武器化的时代，系统漏洞不仅来自关键基础设施的硬件和软件，还来自消费者的行为。

社交媒体极大地改变了对抗冲突的方式。通过允许交战者掌握公共叙事，这些技术创造了一种范例，在这种范例中，最病毒式的信息可以影响战争的结果[1]。社交媒体算法重视病毒性而非真实性，加剧了这一现象[2，3]。不足为奇的是，近年来许多引人注目的小规模冲突都是利用虚假信息来操纵人们的行为[1，4]。由于大数据和机器学习技术的日益流行，这样的活动变得特别有效，这些技术允许以前所未有的精度分析大众的行为模式。这类运动最明显的表现之一是所谓的俄罗斯干预2016年美国总统选举和英国退欧公投[5，6]。这些事件表明，剑桥分析公司(Cambridge Analytica)[7]提供的微目标能力可以武器化[8]，以影响一个社会的长期决策。虽然许多研究已经分析了针对长期社会行为操纵的活动[2，9-12]，但很少有人注意到利用虚假信息作为武器在有限的时间范围内操纵社会行为的有针对性的攻击。

容易受到行为操纵的一个特别敏感的目标是关键基础设施，它的攻击可能会在全国范围内产生严重影响。例如，尽管安全级别很高，但在对伊朗核项目的Stuxnet攻击中，人工操作员被证明是最薄弱的一环，在不知不觉中将恶意软件引入了设施[13，14]。另一种引起世界各国政府关注的此类攻击是2015年乌克兰电网网络攻击[15，16]。在这起事件中，攻击者利用通过一种特殊形式的虚假信息(即鱼叉式网络钓鱼)获得的操作员凭证，故意切断23万居民的电力供应达数小时之久。

在这项研究中，我们将重点放在电网上-这一选择的动机是历史停电造成的破坏，包括人员伤亡和巨大的经济损失[18-20]。然而，尽管在文献[21-32]中提出了许多防止和缓解停电的策略，但迄今为止，虚假信息和停电之间的联系从未被研究过。在这种观察的驱使下，我们试图回答以下问题：对手能在没有任何物理或网络入侵的情况下，利用虚假信息摧毁城市电网吗？这一分析的主要贡献是评估对手是否可以攻击配电系统，而不是以其硬件或软件基础设施为目标，而是完全专注于操纵个人消费者的行为。

论文的其余部分安排如下。我们首先描述对电网的虚假信息攻击的机理，然后以大伦敦地区的配电网为案例，评估此类攻击的影响。随后，为了量化虚假信息攻击带来的风险，我们进行了分析，以估计现实中对手可以达到的虚假信息跟踪率。最后，我们强调了我们研究的意义。

我们考虑一种攻击，在这种攻击中，敌手试图通过发送虚假的折扣通知来操纵公民的行为，鼓励他们将能源消耗转移到需求高峰期。这样的转换可能会导致过载的电力线跳闸，从而导致停电(见方法)。此攻击和虚假信息消息的概述如下所示

在评估了跟进虚假通知的消费者对电网的影响后，我们现在估计攻击者在现实中可以达到的跟随率。在这里，社交方面可以发挥重要作用，因为人们可能会在不知不觉中通过将虚假信息通知转发给他们的朋友来放大攻击；见图3a的图示。(请注意，“朋友”一词是从社交媒体的上下文中借用来的，指的是任何“熟人”。)。在此背景下，Goel等人。[36]分析了10亿次传播事件，发现(分发)信息不太可能通过社交媒体像病毒一样传播，因为绝大多数被研究的事件要么在最初的广播本身之后立即终止，要么在通过社交媒体传播的单一步骤之后终止。因此，假设这里考虑的攻击具有类似的限制，我们的分析只考虑传播的单个步骤，即通知的初始接收者考虑将其转发给他们的一些朋友。

为了模拟虚假信息的传播，我们使用了两个影响传播的标准模型，即独立级联[37]和线性阈值[38]。在这两种模式中，一个人可能会从多个朋友那里收到相同的通知，但这两个模式之间的主要区别在于该人受到这种反复接触通知的影响的方式不同。在独立级联模型中，每次接触都有一个独立的概率来说服接受者改变他们的行为-这些概率构成了该模型的主要参数。相比之下，线性阈值模型中的每个人都有一个“阈值”，指定他们修改其行为所需的暴露次数-这些阈值构成了模型的主要参数；有关更多详细信息，请参阅方法。在我们的模拟中，这些参数的值不能很容易地从现有的研究中获得，因为扩散模型必须进行修改以适应我们的场景的具体情况；请参阅方法。确定模型参数的一种可能方式是使用随机值，但结果模型可能不现实。可以说，更现实的模型应该是根据调查结果确定参数的模型。

在这一观察结果的推动下，我们调查了通过Amazon Mechanical Turk招募的5124名参与者。具体地说，参与者被显示了一条消息，通知他们晚上8点到晚上10点的电费有50%的折扣。然后，他们被要求具体说明他们改变用电模式以利用这一折扣的可能性，以及他们将这条消息转发给朋友的可能性。我们测试了两个可能影响参与者行为的因素：(I)通知发送者和(Ii)通知内容。至于第一个因素，虽然这类通知通常是从电力公司收到的，但我们分析了从陌生人或朋友那里收到通知的情况。我们考虑了这两种可能性，因为一些人可能直接从攻击者(对他们来说是陌生的人)那里接收到欺骗消息，而另一些人可能通过转发给他们的朋友间接地接收到该消息。至于第二个因素-通知内容-我们分析了两种变体：一种是只能通过单击外部链接获得折扣，另一种是无条件折扣。此操作使我们能够了解网络钓鱼和垃圾邮件攻击的上下文(要求收件人单击消息中嵌入的外部链接)与我们的虚假信息攻击的上下文(不需要此类链接)之间的差异(如果有的话)。因此，参与者被随机分配到以下四种情况之一：(I)从陌生人那里接收带有链接的通知；(Ii)从陌生人那里接收没有链接的通知；(Iii)从朋友那里接收带有链接的通知；(Iv)从朋友那里接收没有链接的通知。向参与者显示的相应消息如图3b所示。然后，他们被问到一些问题，以确定他们将如何回应这些信息。在这里，参与者根据正在研究的影响模型被进一步分为两组，因为每个模型的参数需要不同的问题框架。完整的调查连同结果摘要在S1文件的S3说明中提供。

这项研究得到了纽约大学阿布扎比(#025-2019年)和新加坡国立大学(#025-2019年)机构审查委员会的批准。S-19-162)，所有研究均按照相关指南和规定进行。所有调查参与者均获得书面知情同意。

诚然，调查工具并不理想，因为受访者在现实生活中的行为可能并不准确

虽然有关电网的文献侧重于提高积极的消费者参与度(通过需求响应计划)和协调他们的消费模式的优势[34，35，43，44]，但我们证明了这种参与度使电网更容易受到行为操纵攻击。特别是，我们展示了对手如何利用虚假信息通过发送虚假通知来操纵能源消费者的行为，这些通知鼓励他们将能源使用转移到需求高峰期。我们以大伦敦地区为例，量化了此类攻击在城市范围内的影响，并考虑了住宅电动汽车采用带来的额外需求灵活性。我们还分析了Atta。

.