深假将对社会造成严重破坏。我们还没有准备好

上个月，在ESPN的热门纪录片系列片“最后的舞蹈”(The Last Dance)中，州立农场(State Farm)首次播放了一则电视广告，该广告已成为近年来人们记忆中讨论最广泛的广告之一。它似乎显示了1998年的一段视频，一名ESPN分析师对2020年做出了令人震惊的准确预测。

事实证明，这段视频并不是真的：它是使用尖端的人工智能生成的。这则广告让观众感到惊讶、有趣和高兴。

州立农场的广告是人工智能中一个重要而危险的新现象的良性例子：深度假冒。Deepfake技术使任何有电脑和互联网连接的人都可以创建看起来逼真的照片和视频，这些照片和视频显示的是人们说的和做的事情，而他们实际上并没有说过或做过的事情。

深假是“深度学习”和“假”两个词的组合，2017年末首次出现在互联网上，由一种名为生成性对抗网络(GANS)的创新深度学习方法提供支持。

最近，几个深度假视频在网上疯传，让世界各地的数百万人第一次尝到了这项新技术的滋味：奥巴马总统用脏话形容特朗普总统，马克·扎克伯格承认Facebook的真正目标是操纵和剥削用户，比尔·哈德在深夜脱口秀节目中变身阿尔·帕西诺。

网上深度虚假内容的数量正在快速增长。根据初创公司Deeptrace的一份报告，2019年初，网上有7964个深度假视频；仅仅9个月后，这个数字就跃升至14678个。毫无疑问，从那时起，它就一直在膨胀。

虽然令人印象深刻，但今天的深度假技术仍然不能与真实的视频片段相提并论-通过仔细观察，通常可以判断一段视频是深度假的。但这项技术正在以惊人的速度进步。专家预测，用不了多久，深赝品将无法与真实图像区分开来。

加州大学伯克利分校教授、深度假货专家哈尼·法里德(Hany Farid)表示：“2019年1月，深度假货充满了漏洞和闪烁。”“九个月过去了，我从未见过他们开得有多快。这只是冰山一角。“

今天，我们正站在一个转折点上。在接下来的几个月和几年里，深度假冒可能会从互联网上的怪胎成长为一股广泛破坏性的政治和社会力量。社会现在需要行动起来，为自己做好准备。

深度假冒技术被广泛应用的第一个用例-就像新技术经常出现的情况一样-是色情。Deeptrace报告显示，截至2019年9月，96%的深度假网络视频是色情视频。

一些专门致力于深度假冒色情的网站已经出现，在过去的两年里总共获得了数亿的浏览量。深伪色情几乎总是非自愿的，包括人工合成以名人或个人联系人为特色的露骨视频。

从网络的这些黑暗角落，深度假货的使用已经开始蔓延到政治领域，那里发生混乱的可能性更大。

如果所有人都能看到他们认为是真实的伪造视频，那么就不需要太多的想象力就能理解可能造成的伤害。想象一下，就在选举前夕，一名政客进行贿赂或性侵的深度假镜头；或者美国士兵在海外对平民犯下暴行的场景；或者特朗普总统宣布向朝鲜发射核武器的场景。在这样一个甚至存在一些不确定性的世界里，这样的剪辑是否真实，后果可能是灾难性的。

由于这项技术的广泛可及性，这样的镜头可以由任何人创作：国家支持的演员，政治团体，单独的个人。

在最近的一份报告中，布鲁金斯学会(Brookings Institution)冷酷地总结了深度造假带来的一系列政治和社会危险：“扭曲民主话语；操纵选举；侵蚀对机构的信任；削弱新闻业；加剧社会分歧；破坏公共安全；给包括民选官员和公职候选人在内的知名人士的声誉造成难以弥补的损害。”

美国参议员马尔科·卢比奥(Marco Rubio)最近表示：“在过去，如果你想威胁美国，你需要10艘航空母舰、核武器和远程导弹。”“今天…你所需要的就是制作一段非常逼真的假视频，这可能会破坏我们的选举，可能会让我们的国家陷入巨大的内部危机，并深深地削弱我们。”

技术专家们对此表示同意。用世界上顶尖的深度假货专家之一哈尼·法里德(Hani Farid)的话说：“如果我们不能相信从世界各地收集的视频、音频、图像和信息，那将是一个严重的国家安全风险。”

这种风险不再仅仅是假设的：在现实世界中，深伪影响政治的早期例子已经出现。专家警告说，这些事件是煤矿中的金丝雀。

上个月，比利时的一个政治团体发布了一段深度伪造的视频，视频中比利时首相发表演讲，将新冠肺炎疫情与环境破坏联系起来，并呼吁对气候变化采取严厉行动。至少有一些观众相信这场演讲是真实的。

更隐秘的是，视频可能是深度假的可能性可能会引发混乱，并为政治欺骗提供便利，而不管深度假技术是否真的被使用过。这方面最具戏剧性的例子来自中非的一个小国加蓬。

2018年末，加蓬总统阿里·邦戈(Ali Bongo)已经几个月没有公开露面了。谣言四起，说他的健康状况不足以胜任公职，甚至说他已经去世。为了缓解这些担忧，并重申邦戈对国家的领导地位，他的政府宣布，他将在元旦发表全国电视讲话。

在视频中(这值得你自己亲眼看看)，邦戈显得僵硬而生硬，说话不自然，面部举止也很不自然。这段视频立即引发了人们的怀疑，即政府向公众隐瞒了什么。邦戈的政治对手宣称，这段视频是深度假的，总统已经丧失了工作能力或已经死亡。关于深度虚假阴谋的传言在社交媒体上迅速传播。

加蓬的政治局势迅速动荡。不到一周，军方发动了一场政变-这是该国自1964年以来的第一次政变-以新年视频为证据，证明总统出了什么问题。

直到今天，专家们还不能确定新年视频是否是真实的，尽管大多数人认为它是真实的。(政变被证明是不成功的；邦戈自那以后出现在公共场合，至今仍在任)。

但这段视频是否真实几乎是无关紧要的。更大的教训是，深度假货的出现将使公众越来越难区分真假，政治行为者不可避免地会利用这种情况-带来潜在的破坏性后果。

南加州大学教授李浩(音译)说：“人们已经在利用深伪存在的事实来诋毁真正的视频证据。”“即使有你做某事或说某事的镜头，你也可以说这是一场彻头彻尾的骗局，很难证明不是这样。”

在最近的两起事件中，马来西亚和巴西的政界人士试图通过声称视频是深度伪造来逃避泄露视频片段的后果。在这两个案例中，都没有人能够明确地确立不同的观点-公众舆论仍然存在分歧。

研究人员阿维夫·奥瓦迪亚(Aviv Ovadya)对她所说的“现实冷漠”提出了警告：“要弄清楚什么是真的，什么是假的，太费力了，所以你更愿意接受你之前的任何从属关系。”

在一个眼见为实的世界里，一个庞大的社区就什么是真实达成一致-更不用说就此进行建设性对话-的能力突然显得岌岌可危。

使深度伪造成为可能的核心技术是深度学习的一个分支，称为生成性对抗网络(GANS)。Gans是由伊恩·古德费罗于2014年在蒙特利尔大学攻读博士学位时发明的，蒙特利尔大学是世界顶尖的人工智能研究机构之一。

2016年，AI伟人严乐村称甘斯是“过去十年机器学习中最有趣的想法”。

在Gans开发之前，神经网络擅长对现有内容进行分类(例如，理解语音或识别人脸)，但不擅长创建新内容。甘斯不仅赋予神经网络感知的能力，而且赋予其创造的能力。

古德费罗在概念上的突破是使用两个独立的神经网络设计甘斯-一个被称为“生成器”，另一个被称为“鉴别器”-并让它们相互竞争。

从给定的数据集(比方说，人脸照片的集合)开始，生成器开始生成新的图像，这些图像在像素方面在数学上与现有图像相似。同时，鉴别器在没有被告知它们是来自原始数据集还是来自生成器的输出的情况下被馈送照片；它的任务是识别哪些照片是人工生成的。

当这两个网络相互迭代地工作时-发电机试图愚弄鉴别者，鉴别者试图找出发电机的创造-它们磨练了对方的能力。最终，鉴别器的分类成功率下降到50%，并不比随机猜测好多少，这意味着合成的照片与原始照片变得难以区分。

深度假冒激增的一个原因是机器学习社区的开源精神：从古德费罗的原创论文开始，每当生成式建模方面的研究进展出现时，世界上的任何人都可以免费下载和使用这项技术。

鉴于深度假首先是基于人工智能的，一些人将人工智能视为有害的深度假应用的解决方案。例如，研究人员已经建立了复杂的深度假检测系统，可以评估照明、阴影、面部运动和其他特征，以便标记伪造的图像。另一种创新的防御方法是在图像文件中添加过滤器，使其无法使用该图像生成深度假图像。

已经出现了几家提供防御深度假冒软件的初创公司，包括TruePic和Deeptrace。

然而，从长远来看，这样的技术解决方案不太可能阻止深度假货的传播。充其量，它们将导致一场没完没了的猫捉老鼠的游戏，类似于当今网络安全领域存在的情况，在深度假检测方面的突破刺激了深度假一代的进一步创新。人工智能研究的开源性质使这变得更有可能。

举个例子，2018年，奥尔巴尼大学(University Of Albany)的研究人员发表了一项分析，表明闪烁的违规行为往往是视频是假的迹象。在打击深假的斗争中，这是一个有益的突破-直到几个月内，新的深度假视频开始出现，纠正了这种眨眼的缺陷。

“我们在武器上处于劣势，”法里德说。视频合成方面(而不是探测器方面)的工作人员数量是100比1。

展望纯粹的技术补救措施，我们可以采取哪些立法、政治和社会措施来防御深度假货的危险？

一个诱人而简单的解决方案是通过法律，使制造或传播深度假货成为非法行为。加利福尼亚州已经试验了这种方法，去年颁布了一项法律，规定在选举后60天内制作或分发政客的深度假作品是非法的。但是，全面深入的假货禁令既有宪法上的挑战，也有现实的挑战。

美国宪法第一修正案规定了言论自由。任何禁止网络内容，特别是政治内容的法律，都有可能与这些宪法保护相冲突。

法学教授简·柯特利(Jane Kirtley)说：“根据美国法律，政治言论享有最高级别的保护。”“在选举前保护民众免受欺骗性内容侵害的愿望非常强烈，也非常可以理解，但我对他们能否执行(加州)法律持怀疑态度.”

除了宪法上的担忧，由于互联网的匿名性和无国界，深度假冒禁令很可能被证明执行起来不切实际。

其他可能用于打击深度假货的现有法律框架包括版权、诽谤和公开权。但考虑到合理使用原则的广泛适用性，这些法律途径的效用可能是有限的。

短期内，最有效的解决方案可能来自Facebook、谷歌和Twitter等主要科技平台，它们自愿采取更严格的行动，限制有害深度假货的传播。

依靠私营公司来解决广泛的政治和社会问题，这是可以理解的，这让许多人深感不安。然而，正如法律学者鲍比·切斯尼(Bobby Chesney)和丹妮尔·西特伦(Danielle Citron)所说，这些技术平台的服务条款协议是“当今世界管理数字言论的最重要的文件”。因此，这些公司的内容政策可能是对深度假货的“最突出的回应机制”。

一个相关的立法选择是修改有争议的通信体面法案第230条。第230条写于商业互联网的早期，对第三方在其平台上发布的任何内容给予互联网公司几乎完全的民事豁免权。收回这些保护措施将使像Facebook这样的公司在法律上有责任限制破坏性内容在其网站上的传播。但这样的做法引发了复杂的言论自由和审查问题。

归根结底，没有任何单一的解决方案是足够的。重要的第一步就是提高公众对深度假冒的可能性和危险的认识。消息灵通的公民是抵御广泛传播的错误信息的关键防御措施。

最近假新闻的兴起让人们担心我们正在进入一个“后真相”的世界。Deepfakes威胁要强化和加速这一轨迹。这场闹剧的下一个重要篇章可能即将到来：2020年的选举。赌注几乎不能再高了。

纽约大学教授纳斯尔·梅蒙说：“天安门广场坦克前的那个人感动了世界。”“尼克松在电话中让他失去了总统职位。集中营里的恐怖画面终于让我们行动起来。如果不相信你所看到的东西的观念受到攻击，那就是一个大问题。我们必须在重见中恢复真理。“