尼克松的深伪、“月球灾难”的演讲和岌岌可危的信息生态系统

关于今天的人工智能和网络虚假信息的未来，美国前总统理查德·尼克松(Richard Nixon)可能会教给我们什么？没什么。真正的尼克松26年前就去世了。

但是，人工智能生成的他的肖像为一项快速发展的技术提供了新的曙光，这项技术对我们目前的数字信息生态系统具有相当大的影响，既有创造性的，也有破坏性的。从2019年开始，麻省理工学院(Massachusetts Institute Of Technology)的媒体艺术家弗朗西斯卡·帕内塔(Francesca Panetta)和哈尔西·伯贡德(Halsey Burgund)与两家人工智能公司Canny AI和Respeecher合作，创造了一个死后的深度赝品。合成视频显示，尼克松发表了一场他从未打算发表的演讲-在演讲主题半个世纪后。

下面是(真实的)背景故事：1969年7月，当阿波罗11号宇航员沿着通往月球的轨道在太空中滑行时，当时尼克松的演讲稿撰稿人之一威廉·萨菲尔(William Safire)写道，作为应急措施，“万一发生月球灾难”。这篇演讲是对尼尔·阿姆斯特朗(Neil Armstrong)和埃德温·“巴斯”·奥尔德林(Edwin“Buzz”Aldrin)的美好致敬，这两位宇航员降落在月球表面-在这个版本的历史中一去不复返。它以这样的话结束：“因为每一个在未来的夜晚仰望月亮的人都会知道，另一个世界的某个角落永远是人类。”

《Deepfakes》是一类人工智能生成的合成媒体。如果你以前在互联网上见过，它很可能是“换脸”的一个例子。这个术语本身是“深度学习”和“假的”的混合词，有一个可怕的起源故事，涉及一个同名的Reddit账号发布名人脸部互换色情内容。问题仍然存在：2019年的一份报告发现，“非双方同意的深度虚假色情……。占网上深度假视频总数的96%。“。

除了这种非法和有害的脸部交换使用之外，还有各种其他类型的基于人工智能的合成媒体。深度学习还被改编成音频假冒、假嘴唇同步以及全头和全身木偶。这些技术中的许多纯粹是作为基础研究而存在的，尽管人工智能合成的媒体正在迅速演变为商业用途-包括用于好莱坞的制作，甚至包括失去说话能力的癌症患者。

麻省理工学院的团队并没有开始创造一个简单的脸部交换。(一些机器学习从业者现在正在推动这样的想法，即只要有一点编码经验，几乎任何人都可以在短短5分钟内做出一个这样的深伪。)。他们一直想在记录相关劳动的同时，尽可能创造出最好的技术假货。这个过程花了半年多的时间。

为了完成赝品的视觉部分，Canny AI采用了一种名为“视频对话替换”的技术。代替脸部交换，一个人工智能系统被训练成将“在月球灾难中”演讲的面部动作转移到尼克松面容和周围环境的逼真重建上。

在声音部分，Respeecher处理了一名演员朗读演讲的训练音频，以及尼克松在白宫多次电视露面的录音。然后，该公司使用“声音转换系统”合成尼克松，从这位演员的表演中发表演讲。(Canny AI和Respeecher的技术都是专有的，这两家公司表示，它们从未被用来制造非法假货。)

麻省理工学院的团队还想展示这种深伪的潜力，以提出问题，即它们可能会如何影响我们共享的历史和未来的经历。为了做到这一点，他们与科学美国人合作，向一组人工智能、数字隐私、法律和人权方面的专家展示了他们的视频。在制作深伪的短片中，这些专家提供了关于这项技术的必要背景-它的危险，它的潜力，以及这个美丽的新数字世界的可能性，在这个世界里，每一个经过我们集体视线的像素都有可能被抓住。