数字马奇诺线路

有一场战争正在发生。我们正沉浸在一场不断演变、持续不断的冲突中：一场信息世界大战，在这场战争中，国家行为者、恐怖分子和意识形态极端分子利用支撑日常生活的社会基础设施来挑拨离间，侵蚀共同的现实。这场冲突仍在作为一系列单独的小规模冲突进行处理-一系列不同的、本地化的、叙事中的真相问题的集合-但这些战斗是相互联系的。这些活动通常被认为是由紧急的、自下而上的业余行动推动的有机网络混乱，而实际上，有相当数量的活动得到了系统的、自上而下的机构和国家行动的帮助或煽动。这是一种温暖的战争，不是热战的积极的、公开的、公开的冲突，而是超越了冷战的太极拳。

我们认为这是一种持续的局部冲突状态。随着地缘政治事件和文化时刻的出现，剧场发生了机会主义的变化，但没有迹象表明只有战术上的演变，因为充当战场空间的数字平台通过新的安全检查和功能调整引入了少量的摩擦。随着各国政府越来越多地意识到这个问题，它们各自都在寻求针对上一次在自己的数字领域表现出来的具体战斗的战术而量身定做的应对措施；例如，在美国，我们仍然专注于2016年大选及其俄罗斯机器人。因此，我们正在投资于一系列不适当和无效的应对措施：在战场的一个部分建造一条数字马奇诺防线，作为对一套战术的威慑，而新的战术则在其他地方实时显现。

就像最初的马奇诺防线一样，这种方法的防御效果和轻微的减速带差不多。

在当时，马奇诺防线被认为是国防的一项重大创新，外国领导人从各地赶来参观。它是一系列堡垒和铁路，可以抵抗所有已知的火炮形式，使用最新的技术建造。这样做的目的既是为了阻止入侵部队-保护平民的安全-也是为了提供袭击的早期预警。这条铁路线是法国沿着其与德国的整个边境修建的。它延伸到与比利时的边界，但在阿登森林停了下来，因为专家们普遍认为阿登是无法穿透的。

事实证明，阿登并不是不可逾越的。对于一支使用第一次世界大战中流行的消耗战战略的军队来说，穿过森林可能是徒劳的努力，但它很容易受到新战争模式的影响。当法国人专注于修建马吉诺防线时，德国人开发出了这样一种新的战争模式-闪电战-并派遣了100万人和1500辆坦克穿过阿登(同时向马吉诺防线部署了一支小部队作为诱饵)。

这条旨在非常有效地打完上一场战争的防线，带来了一种错误的安全感。

马奇诺防线和闪电战学说都出现在两次世界大战之间的几年间，这一时期可能也是最好的描述，也是一场温馨的战争，很像我们今天所经历的时期。但是，虽然马奇诺防线体现了上一次战争的战术思想和技术假设，但闪电战体现了新技术和下一次战争的可能性。

信息世界大战已经持续了好几年。我们把开场的小规模冲突称为“媒体操纵”和“恶作剧”，假设我们是在对付那些为摇篮曲而做的意识形态恶作剧者(而且摇篮曲是无害的)。

在现实中，战斗人员是专业的、国家雇佣的网络战士和经验丰富的业余游击队，他们用军事精确度和专门工具追求非常明确的目标。每种类型的战斗人员给冲突带来了不同的心理模型，但使用了相同的一套工具。

有国家支持的巨魔，在一些国家破坏社会稳定，使除国家媒体以外的所有信息渠道在其他国家毫无用处。他们在统治者的要求下行动，通常是通过军事或情报部门。有时，就像菲律宾的杜特尔特那样，这些数字军队专注于干预自己的选举，利用付费僵尸网络和傀儡角色团队来打击和骚扰对手，或者放大他们所有者的候选人资格。其他时候，巨魔会超越国界，操纵其他地方的政治，就像英国退欧和2016年美国总统大选一样。有时，就像在缅甸一样，选举根本不是目标：在那里，军方运营的数字团队煽动了一场种族灭绝。

有像ISIS这样分散的恐怖分子，他们建立高知名度的品牌，同时异步招募志同道合的人。这些数字招聘人员通过精心制作的宣传，在互联网上铺天盖地地承诺荣耀和同志情谊，然后将接受者转移到加密聊天应用程序中，以继续激进化。新兵在Facebook帖子中宣誓效忠虚拟哈里发国，然后驾驶卡车进入步行街广场IRL。

也有一些受意识形态驱使的高技能干部，他们在信息战中的技能只能与他们对摇篮曲造成的真正伤害的根本不理解相匹配。这些人中有一部分是阴谋论者，他们以前被限制在默默无闻的留言板上聊天，直到社交平台的脚手架和无意中的反社会算法促进了他们演变成能够轻松传播福音的无领袖邪教。

战斗人员可能会以惊人的速度发展，因为数字弹药非常接近免费。事实上，由于数字广告生态系统，信息战甚至可能扭亏为盈。没有什么动机不尝试一切：这是一场正在接受A/B测试的革命。最明显的战斗空间是我们的在线论坛-Twitter、Facebook和YouTube-但随着国家支持的巨魔招募和操纵活动人士、清洗叙事并煽动抗议，这一活动正越来越多地蔓延到街头、传统媒体和闭门的老式直接行动。

所有这些团体都有一个共同点，那就是对服务条款都不屑一顾；管理平台空间行为和试图制定规范的规则充其量是可以忽略的不便之处。战斗人员积极和系统地绕过这些数字防御的尝试，将他们的想法变成了网络攻击的目标：他们声称，这些规范是不合法的。这些规则是不公平的，它们的存在本身就是审查制度！

战斗人员希望将平台不应该被允许制定交战规则的想法正常化，因为在短期内，只有平台才能这样做。

与此同时，普通平民用户认为这些平台是物理公共和社交空间的普通延伸-新的公共广场，有一点污染问题。学术领袖和技术专家想知道，更快的事实核查是否可以解决问题，并试图就适度是否是审查制度展开善意的辩论。这里有一种根本的脱节，原因是低估和误解。战斗人员认为这是一场所有人对所有人的霍布斯信息战和一场战术军备竞赛；另一方认为这是和平时期的民事治理问题。

造成这种差距的原因之一是对最终目标的根本误解。几个世纪以来，战争一直在为一套相当一致的目标而战：领土控制、政权更迭、宗教或文化习俗，以及巩固或转移经济实力。

信息战战斗人员肯定在寻求政权更迭：有合理的怀疑认为，他们在少数情况下(英国退欧)取得了成功，在其他情况下(杜特尔特)有明显的迹象表明成功了。他们把目标对准了企业和行业。他们肯定是在追逐习俗：社交媒体在几年前就成为了文化战争的主战场，我们现在用过滤泡沫等技术术语来描述两个两极分化的美洲之间不可逾越的鸿沟。

在一场热烈的信息战中，人脑就是领地。如果你不是战士，你就是领地。一旦一名战士赢得了足够数量的思想，他们就有能力影响文化和社会，影响政策和政治。

与此同时，新的数字民族国家-作为20亿公民不受监管、私人管理的公共广场的社交平台-刚刚开始承认，所有这一切都在发生，他们正在努力寻找管理的方法。经过一年的国会听证会和无情的媒体曝光，详细描述了从选举干预到字面上的种族灭绝，技术公司已经开始内化，信息世界大战是非常真实的，正在给许多人造成真正的痛苦，并正在产生深远的后果。

这种持续不断的冲突的特殊表现是社交网络没有预料到的。大多数人认为，网络战将围绕基础设施展开-国家支持的黑客大军和偶尔出现的国际犯罪集团渗透网络和泄露机密，或者接管关键系统。这就是政府准备和雇佣的目的；这也是国防和情报机构擅长的。这就是民间社会组织建立他们的团队来处理的问题。

但随着社交平台的发展，获得了数亿站稳的观众，并开发了精确定位和病毒放大的工具，各种恶意演员同时意识到还有另一种方法。他们可以直接为人民服务，既容易又便宜。这是因为影响力行动能够，而且确实会影响公众舆论。对手可以通过操纵平民和大规模利用人类的认知弱点，将目标对准企业实体，并改变全球权力结构。即使是真正的黑客也越来越多地为影响力行动服务：例如，被盗、泄露的电子邮件在塑造2016年美国大选的国家叙事方面非常有效。

这并不是说基础设施防御不重要；它是关键的。然而，基础设施和网络黑客既耗时又昂贵，而且被视为毫不含糊的敌意，这意味着这方面的缓和已经演变，并将活跃的冲突推向了社会层面。在冷战期间，国防预算的很大一部分花在维持威慑能力上，以确保两个主要对手都不会使用核武器。通过拉丁美洲和越南的代理人战争，外围仍然爆发了激烈的冲突。在防御关键基础设施黑客方面花费的大量时间和金钱是资源匮乏的对手选择进行一场廉价、容易、失败成本低的心理战的原因之一。威慑将真正的代价强加给对手；相比之下，马其诺防线可以廉价地绕过。

为了确保我们的有形基础设施和关键系统得到防御，我们授权无数政府机构发展一流的进攻能力和令人望而却步的威慑框架。对于影响力行动，不存在类似的计划或整个政府战略。我们最有技术能力的机构被阻止发现和打击影响力行动，因为担心他们在瞄准俄罗斯的数字非法移民和ISIS的招募人员时，可能会无意中接触到真正的美国公民。这一能力差距显然是可以利用的；为什么要对电网进行漫长、昂贵、复杂的攻击，而攻击一个社会以共同的认识论运作的能力，无论是在成本上还是在后果上都相对没有成本？这让我们处于可怕的境地，因为有太多的故障点。随着人们对媒体和领导层的信任持续下降(影响力行动的目标之一)，其中一场信息运动--互联网研究机构(Internet Research Agency)哥伦比亚化工厂骗局的更复杂版本，可能发生在一个火药桶国家--可能会被用来激起非常真实的回应，将这场热战转变为一场热战。

这种从以基础设施为目标转向以平民思想为目标的转变是可以预见的。像爱德华·伯奈斯、汉娜·阿伦特和马歇尔·麦克卢汉这样的理论家几十年前就预见到了这一点。早在1970年，麦克卢汉就在“文化是我们的生意”一书中写道，“第三次世界大战是一场游击信息战，没有军事和民间参与之分。”

国防部也预料到了这一点：2011年，DARPA启动了一个专门的项目(战略通信中的社交媒体，SMISC)，试图抢占先机，为在线宣传战做准备。这一前提被嘲笑为不可信的威胁，该项目于2015年关闭。现在，政府和科技平台都在争先恐后地做出回应。问题是，大部分回应都集中在对最后一套战术的零敲碎打的回应上，即建造一条数字马奇诺防线。

2014-2016年的影响力行动策略大致是这样的：一群数字战斗人员决定推动一种特定的叙事，这种叙事既符合长期叙事，又有短期的新闻挂钩。他们创造了内容：有时是一篇完整的博客帖子，有时是一段视频，有时是快速的视觉表情包。这些内容被发布到提供发现和放大工具的平台上。然后，巨魔们激活了机器人和木偶的集合，用这些内容覆盖了最大的社交网络。其中一些虚假账户是一次性放大器，主要用来通过增加点赞和分享数量来制造大众共识的错觉。另一些则是由真人运营的高度支持的人物角色，他们与同情的有影响力的人和媒体建立了长期的受众和长期关系；这些账户被用于精确的信息传递，目的是接触到媒体。以色列公司Psy Group正是向2016年特朗普总统竞选活动推销这些服务；正如他们的销售手册所说，“现实是一个认知问题”。

如果手术是有效的，信息将被推送到同情的真人的馈送中，他们会自己放大它。如果它像病毒一样传播或触发一个流行算法，它将被推送到大量观众的订阅源中。媒体成员将对此进行报道，覆盖数百万人。如果内容是假的，或者是骗局的，说不定还会有后续的改正文章--没关系，没人会注意的。一些放大器机器人可能会被关闭-这也真的无关紧要，它们很容易更换。

现在，在2018年，我们已经达到了大多数记者和许多世界领导人理解2016年剧本的地步。媒体和积极分子都向平台施压，要求堵住最严重的漏洞。这已经产生了一些影响；例如，使用机器人触发流行算法变得困难得多。在几千次受到这样的指责(并被召唤)之后，Twitter终于适应了这种情况，对低质量的账户进行了灰箱操作和减码。Facebook完全取消了他们的热门新闻专题。由于运行垃圾邮件自动账户不再是对资源的一种很好的利用，经验丰富的运营商已经转向了新的策略。

但是，尽管这些机器人的价值越来越小，州和联邦一级的立法者仍在努力考虑对它们进行监管。加州立法者甚至通过了一项法律，规定BOT账户创建者虚报自己的行为是非法的--虽然可以想象，禁止巨魔创建巨魔账户可以恢复信息生态系统的秩序，但这不会。制定一项法律，只捕捉或标记恶意的自动账户，这是令人难以置信的挑战。Twitter自我强加的产品调整已经在很大程度上将自动机器人扔进了战术垃圾箱。战斗人员现在专注于渗透，而不是自动化：利用真实的、意识形态一致的人无意中传播真实的、意识形态一致的内容。敌对的国家情报机构现在尤其擅长操作人类操作的精确人物角色集合，通常被称为袜子木偶或半机械人，它们将逃脱BOT法律的惩罚。他们只会更加努力地讨好真正的美国影响力人士，加入真正的美国转发圈子。如果战斗人员需要迅速发起一场数字群众运动，合适的人物角色可以激怒一个由真人组成的富有同情心的subreddit或Facebook群，以寄生虫动员僵尸军队的方式劫持一个社区。

专注于功能级的战术修正，简单地改变一个平台上允许的界限，就像建造了一条数字马奇诺防线；这是徒劳的努力，是对上次战争战术的反应。当立法者抽出时间通过立法来中和一个有害的特征时，对手们已经把它抛在脑后了。试图通过立法废除2016年的战术主要有以下几个方面

算法分配系统将总是由最有资源或最有技术能力的战斗人员增选。很快，更好的人工智能将再次改写剧本-也许是数字版的闪电战，因为它有可能占领新的领域。人工智能生成的音频和视频深伪将侵蚀我们对亲眼所见的信任，使我们既容易受到伪造内容的影响，又容易受到影射对真实真相的诋毁。真实性辩论将侵占媒体周期，将我们推入永无止境地调查基本事实的无限循环中。长期的怀疑和认知的DDoS将加剧两极分化，导致人们对不同的右翼和左翼权威人物-认为寡头与完全不同的群体说话-的信任得到巩固。

我们知道这将会到来，但我们几乎没有做什么来赶在它前面。没有人对走在它前面负责。

关键问题是：当平台简单地指出透明度报告显示它们抓住了相当数量的平庸参与者时，它们就没有动力参与与最糟糕的参与者进行的极其复杂的军备竞赛。

平台不能继续运营，就好像所有用户基本上都是一样的；他们必须不断意识到各种类型的战斗人员将如何滥用他们推出的新功能，并将对战斗战术的检测嵌入到他们正在创造的技术中，以监管问题。与此同时，监管机构必须避免在我身上快速取胜的诱惑。

..