便宜、容易的Deepfake离真品越来越近了

有很多汤姆·汉克斯(Tom Hanks)的照片，但没有一张像周三在黑帽计算机安全会议上展示的主要普通人的照片：这些照片是由机器学习算法制作的，而不是相机。

安全公司火眼(FireEye)的数据科学家菲利普·塔利(Philip Tully)制造了这些恶作剧，目的是测试人工智能实验室的开源软件有多容易被适应于虚假信息活动。他的结论是：“没有太多经验的人可以利用这些机器学习模型，并用它们做非常强大的事情，”他说。

在全分辨率下看，FireEye的假汉克斯图像有不自然的颈部褶皱和皮肤纹理等缺陷。但它们准确地再现了这位演员熟悉的面部细节，比如他的眉毛皱纹和绿灰色的眼睛，这些细节冷淡地凝视着观众。在社交网络缩略图的规模上，人工智能制作的图像可以很容易地被认为是真实的。

要制作这些照片，塔利只需要在网上收集几百张汉克斯的照片，花不到100美元就可以根据他选择的主题调整开源脸部生成软件。带着调整后的软件，他开始制作汉克斯。Tully还使用其他开源人工智能软件试图模仿YouTube上三个片段中演员的声音，但效果不那么令人印象深刻。

通过展示一个人可以多么便宜和容易地生成还可以通过的假照片，FireEye项目可能会加剧人们的担忧，即在线虚假信息可能会被生成还可以通过的图像或语音的人工智能技术放大。这些技术和它们的输出通常被称为深伪，这个词取自一个Reddit账号的名字，该账号在2017年底发布了经过修改的色情视频，其中包括好莱坞女演员的脸。

在互联网的荒野中观察到的大多数深假都是低质量的，是为了色情或娱乐目的而创作的。到目前为止，记录最多的恶意使用深水假货是骚扰女性。公司项目或媒体制作可以在更大的预算上创造更光滑的输出，包括视频。FireEye的研究人员想要展示，人们如何在最少的资源或人工智能专业知识的情况下，利用复杂的人工智能研究。来自两党的国会议员都提出了担忧，认为深度伪造可能倾向于政治干预。

塔利的深度假实验利用了学术和企业人工智能研究小组公开发布最新进展并经常发布代码的方式。他使用了一种名为微调的技术，在这种技术中，用大量例子建立的机器学习模型，可以适应用小得多的例子池完成的特定任务。

为了制作假汉克斯，塔利采用了NVIDIA去年发布的面孔生成模型。这家芯片公司通过在一群功能强大的图形处理器上在几天内处理数百万张样张脸来制作软件。塔利在不到一天的时间里把它改造成了一个汉克斯生成器，并在云中租用了一个单一的图形处理器。另外，他仅用笔记本电脑、三段30秒的音频片段和一名研究生对谷歌语音合成项目的开源重现，就在几分钟内克隆了汉克斯的声音。

他说，随着人工智能实验室之间的竞争推动进一步的进步-这些结果是共享的-这样的项目将变得越来越有说服力。“如果这种情况持续下去，可能会给整个社会带来负面后果，”塔利说。他之前曾与一名实习生合作，展示人工智能文本生成软件可以创建类似于俄罗斯互联网研究机构(Internet Research Agency)制作的内容，后者试图操纵2016年总统选举。

乔治敦大学安全与新兴技术中心(Center For Security And Emerging Technology)研究员蒂姆·黄(Tim Hwang)表示，像FireEye这样的实验可以帮助锚定关于深度假货威胁的辩论，这有时近乎歇斯底里。“很多关于这一威胁的讨论都是由戏剧性的轶事推动的，”他说。一个反复出现的例子是，一场想象中的总统选举被其中一名候选人无懈可击、时机恰到好处的深度假所操纵。

FireEye的项目通过展示用最少的资源和人工智能研究的开源成果可以实现什么，填充了一些实际的细节。Hwang说，将这种信息与虚假信息组织如何运作的已知信息结合起来，是评估深度虚假威胁的更好方式，而不是考虑最坏的情况。“我在想，谁是互联网研究机构的中层经理，他必须向高层介绍情况，并说‘这是你的投资所得到的，’”黄说。

尽管Tully有假汉克斯，但Hwang说，它看起来像是针对深度虚假虚假信息的杀手级应用程序还没有到来。爱尔兰共和军和其他人用廉价的劳动力和相对简单的技术基础设施完成了很多工作，即使是小的人工智能项目也可能得不到太多好处。制作复杂的深度假视频需要大量的时间和专业知识。Hwang在上个月发表的一份报告中得出结论，深度假货不会构成严重和迫在眉睫的威胁，但无论如何，社会应该投资于防御。

该报告建议企业和学术实验室创建“深度假动物园”，收集使用不同开源技术制作的样本，比如FireEye用来帮助创建深度假探测器的那些技术。一些公司已经开始了类似项目的工作。NVIDIA已经公布了如何检测用其软件合成的人脸的结果。

Facebook最近创建了一个深度假视频宝库，并悬赏50万美元购买性能最好的深度假检测器。获胜者只能在65%的时间里发现不在Facebook收藏中的深度假货。

FireEye的研究人员还在思考深度假货如何与虚假信息业务中现有的做法相适应。塔利周三的演讲是与李·福斯特(Lee Foster)联合制作的，福斯特领导着该公司一个跟踪在线操纵活动的团队。去年，它揭露了一场庞大的亲伊朗虚假信息运动，该运动在Twitter和Facebook上使用虚假的人物角色，甚至欺骗中东政治专家接受后来用于宣传该行动信息的采访。

福斯特说，塔利的结果和他自己在虚假信息播撒方面的经验让他认为他们可能很快就会转向深度虚假。从其他来源窃取的个人资料照片是调查人员用来帮助揭开虚假人物面具的虚假信息线索。他说，假冒汉克斯的内容距离为骗子提供另一种选择所需的质量不远。福斯特说：“在一个我们以我们的方式快速消费信息的世界里，这些并不一定要完美才能令人信服。”“如果你快速浏览推特，你就不会仔细查看头像了。”

🎙️收听“连线”，这是我们关于未来如何实现的新播客。收看最新剧集，订阅📩时事通讯，跟上我们所有节目的最新动态。

✨使用我们齿轮团队的最佳选择优化您的家庭生活，从机器人吸尘器到价格实惠的床垫再到智能扬声器