表情包们在做深度假货，事情变得很奇怪

格蕾丝·温德海姆以前听说过深度假货。但她从来没有考虑过如何制作一个。正是使用这项技术的病毒式迷因让她研究了这种可能性-并发现它超级容易，而且完全免费。

不到一天，她就创建了一个YouTube的循序渐进的教程，指导其他人完成这个过程。她在8月4日发布的这段视频中说：“制作其中一个深伪并叠加音频并不像你想象的那么复杂。”自那以来，这段视频的点击量已超过36万次。

温德海姆是一群新的在线创作者中的一员，随着这项技术变得越来越容易获得并渗透到网络文化中，他们正在玩弄深伪。这一现象并不令人惊讶；媒体操纵工具经常通过玩弄和恶搞获得吸引力。但这也引发了人们对其可能被滥用的新担忧。

深假已经被用来骚扰女性，通过非自愿地将她们的脸交换到色情视频中。学者们还担心他们破坏选举的能力。虽然为表情包创造的深度假象仍然明显是假的，而且相对无害，但它们可能不会持续很长时间。

温德海姆说：“将深伪用于娱乐和迷因，与将其用于伤害之间只有一条微妙的界限。”“在本教程中，我要说的是，‘这就是你制作这种特别的深渊的方法。’但这个剧本的可怕之处在于，它可以用来制作任何你想要的深度假。“。

温德海姆最近刚从大学毕业，在旧金山的初创公司Kapwing担任内容创作者。这家以模因制造者起家的公司提供了一套免费的基于浏览器的视频编辑软件工具。作为她工作的一部分，温德海姆管理着YouTube频道，并制作内容营销视频来展示产品的能力。

8月初，她在谷歌趋势(Google Trends)上偶然发现了一个特别病毒式的搜索词。五个最热门的问题中有三个是关于“八卡三台深度假表情包”。她说：“我几乎从来没有见过这样频繁的查询。”

事实证明，这个表情包是基于一段YouTuber假唱日本视频游戏歌曲“Baka Mitai”(翻译为“我一直是个傻瓜”)的视频。许多网民利用这段视频制作了从巴拉克·奥巴马到萨诺斯唱这首歌的每个人的拙劣深度假象。然而，温德海姆发现，尽管它很受欢迎，但关于如何实际制作它的文章很少。她看到了一个机会。

人们使用的特定深度假冒算法来自2019年在最大的年度人工智能研究会议NeurIPS上提交的一篇研究论文。与其他更复杂的算法不同，它允许用户拍摄任何一个人的脸部视频，并使用它来制作其他人脸部照片的动画，只需几行代码。

温德海姆在YouTube教程中找到了开源算法，并将其移植到Google Colab笔记本电脑上，这是一项在云中运行代码的免费服务。经过几次尝试，借助她在大学里偶尔的编程课上学到的技能，她拿到了吐出一段深度假视频的脚本。然后，她用Kapwing的工具将这首歌与视频同步，创建了一个新版本的表情包。

自从她在Kapwing的YouTube频道上发布了她的教程后，其他一些YouTube用户也使用了相同的复制粘贴算法制作了教程。不同之处是：他们中的许多人都在教他们的观众如何制作任何形式的深度假表情包。其中一家甚至教人们如何在移动设备上制作它们。

这些表情包现在在社交媒体上随处可见：在Twitter、Instagram上，特别是在TikTok上。该平台的短视频经常以朗朗上口的音乐进行时髦的编排，特别有利于被深度伪装成令人着迷的效果。该应用程序中的#深伪标签已经获得了超过1.2亿的浏览量。

用这种算法制作的视频中的面孔有一种明显的虚伪，这使得它的手工作品很容易识别；这是深假的幽默的一部分。这些不完美-以及迷因的超现实主义性质-将使它们不会被混淆为现实。目前，制作更多超逼真的深假在技术上更具挑战性，计算成本也更高。

但按照技术进步的速度，很可能很快就会出现容易制作、几乎无法与现实区分的深度假货。一些公司，比如微信的所有者，中国科技巨头腾讯，已经公开宣布他们打算投入更多的资源来推进商业应用的最先进水平。

深假本身并不是坏事。这项技术已经被艺术家、教育家和其他人用作一种强大的创造性表达的新工具。例如，今年2月，《时代》杂志(Time)使用深度假货重现了小马丁·路德·金(Martin Luther King Jr.)的经历。在虚拟现实中发表他的“我有一个梦想”演讲。最终，监管机构需要定义什么是适当的使用，什么可能导致伤害。

目前，温德海姆依靠自己的判断做出这一决定。在发布视频之前，她仔细阅读了深伪的含义，并与同事进行了交谈。“我们从来没有打算让我们的产品帮助用户传播错误信息，”她说，“所以我们只是想对自己进行理智检查。”

最后，他们决定了一些基本规则：他们将把教程的重点放在制作特定的迷因上，而不是在上下文之外创造深度假货。她说，只要是娱乐性的，在表情包文化中，“我们就处于清晰的区域。”