以“月灾之时”应对虚假信息泛滥

当你看到一个数字处理过的视频时，你能认出它吗？这比大多数人意识到的要难。随着制作现实“深假”的技术变得越来越容易获得，区分事实和虚构只会变得更具挑战性。麻省理工学院高级虚拟中心(Center For Advanced Virtuality)的一个新的数字讲故事项目旨在通过“在月球灾难中”来教育公众关于深伪世界的知识。

这个挑衅性的网站展示了美国总统理查德·M·尼克松(Richard M.Nixon)在1969年为阿波罗11号(Apollo 11)机组人员无法从月球返回的情况下发表的真实应急演讲的“完全”深度假(被篡改的音频和视频)。该团队与一名配音演员和一家名为Respeecher的公司合作，使用深度学习技术制作合成语音。他们还与Canny AI公司合作，使用视频对话替换技术来研究和复制尼克松的嘴巴和嘴唇的运动。通过这些复杂的人工智能和机器学习技术，这部7分钟的电影展示了深度假可以有多么彻底地令人信服。

麻省理工学院(MIT)数字媒体和人工智能教授、麻省理工学院开放教育(MIT Open Learning)高级虚拟中心(MIT Center For Advanced Virtuality)主任D·福克斯·哈雷尔(D.Fox Harrell)表示：“媒体错误信息是一种长期存在的现象，但由于深度造假技术和在线传播内容的便利，这已经成为我们这个时代的一个关键问题。”“我们才华横溢的XR创意总监弗朗西斯卡·帕内塔(Francesca Panetta)正在推动该中心的一个广泛目标：使用人工智能和虚拟技术来支持创造性表达和真相。通过这个项目-以及围绕这个项目正在建立的关于错误信息的课程课程-我们正在推动该中心的广泛目标之一。”

除了这部电影，moondisaster.org还提供了一系列关于深伪的互动和教育资源。在帕内塔和麻省理工学院开放纪录片实验室研究员哈尔西·伯贡德(Halsey Burgund)的领导下，一个由艺术家、记者、电影制作人、设计师和计算机科学家组成的跨学科团队创建了一个强大的互动资源网站，教育工作者和媒体消费者可以在这个网站上加深他们对深伪的理解：它们是如何制作的，它们是如何工作的；它们的潜在使用和误用；正在采取什么措施打击深伪；以及教学资源。

帕内塔说：“这段另类的历史展示了新技术如何混淆我们周围的真相，鼓励我们的观众仔细思考他们每天遇到的媒体。”

发布会的另一部分是一部新的纪录片，由科学美国人制作的一部30分钟的电影“制作深伪”，它以“如果发生月球灾难”为起点，解释人工智能生成媒体背后的技术。这部纪录片以著名学者和思想家为特色，涉及深度伪造的状况，关于错误信息传播和数字现实扭曲的利害关系，以及关于真相的未来。

该项目得到了麻省理工学院开放纪录片实验室和莫兹拉基金会的支持，后者于去年向“在月球灾难中”颁发了创意媒体奖。这些奖项是Mozilla在消费技术领域实现更值得信赖的AI的使命的一部分。最新一批获奖者使用艺术和倡导来检查人工智能对媒体和真相的影响。

Mozilla负责全球项目的副总裁J·鲍勃·阿洛塔(J.Bob Alotta)表示：“人工智能在当今的消费技术中扮演着核心角色--它策划我们的新闻，推荐我们约会的对象，并向我们投放广告。如此强大的技术显然值得信任，但往往并非如此。Mozilla的创意媒体奖(Creative Media Awards)吸引了人们对这一点的关注，同时也倡导在人工智能领域增加隐私、透明度和人类福祉。“

去年秋天，“在月球灾难中”作为实物艺术装置在阿姆斯特丹国际纪录片电影节上进行了预演，在那里它获得了数字故事评审团特别奖；它被选入了2020年翠贝卡电影节和戛纳XR电影节。新网站是该项目的全球数字发布，向所有观众免费提供电影和相关材料。

在过去的几个月里，世界几乎完全转向了在线：学校、脱口秀、博物馆、竞选活动、预约医生--所有这些都迅速向虚拟转型。当我们与世界的每一次互动都是通过数字过滤器看到的时候，学习如何区分真实的和被操纵的媒体变得比以往任何时候都更加重要。

“我们希望这个项目将鼓励公众理解，被操纵的媒体在我们的媒体版图中扮演着重要的角色，”联席主任伯贡说，“通过进一步的理解和努力，我们都可以减少受到它的不适当影响的可能性。”