电报上的深伪机器人使创建假裸体的工作变得危险地容易

研究人员在即时通讯应用Telegram上发现了一个以机器人为中心的“深度假生态系统”，这些机器人会根据要求生成假裸体。与这些机器人互动的用户说，他们主要是使用从社交媒体上拍摄的图片来创建他们认识的女性的裸体，然后他们在各种电报频道上分享和交换这些图片。

这项调查来自安全公司Sensity，该公司专注于它所称的“视觉威胁情报”，特别是深度假货的传播。Sensity的研究人员发现，截至2020年7月，已在公共电报频道生成和共享了超过10万张图像(这意味着生成的图像总数，包括从未共享的图像和自7月以来制作的图像，要高得多)。Sensity说，这些频道的大多数用户，大约70%，来自俄罗斯和邻国。The Verge能够证实，该公司调查的许多渠道仍然活跃。

这些机器人可以免费使用，但它们会生成带有水印的假裸体，或者只生成部分裸体。然后，用户只需支付相当于几美分的费用，就可以完全“揭开”这些照片。一个“初学者费率”向用户收取100卢布(约合1.28美元)的费用，在7天内生成100个没有水印的假裸体。Sensity说，“有限数量”的机器人生成的图像以“看起来未成年的”目标为特色。

The Verge和Sensity都联系了Telegram，询问为什么他们允许在他们的应用程序上使用这些内容，但还没有收到回复。Sensity表示，它还联系了相关执法部门。

用来生成这些图像的软件被称为DeepNude。它于去年6月首次出现在网络上，但它的创建者在主流媒体报道它几个小时后关闭了它的网站，称“人们滥用它的可能性太高了。”然而，该软件继续通过反向渠道传播，Sensity表示DeepNude“自那以来已经被反向工程，可以在开源存储库和Torrent网站上找到增强形式的DeepNude。”它现在被用来为电报机器人提供动力，这些机器人自动处理支付，为创建者创造收入。

DeepNude使用一种名为生成性对抗网络(Gans)的人工智能技术来生成假裸体，生成的图像质量参差不齐。大多数显然是假的，带有涂抹或像素化的肉体，但也有一些很容易被误认为是真的照片。

自从Photoshop出现之前，人们就创造了非自愿的女性裸体假像。目前有许多论坛和网站使用非人工智能工具致力于这一活动，用户分享名人和他们认识的人的裸照。但是深伪导致了更逼真的图像更快的生成。现在，通过电报机器人实现这一过程的自动化，使得生成假裸体像发送和接收图片一样容易。

“关键的区别在于这项技术的可及性，”Sensity的首席执行官兼报告的合著者乔治·帕特里尼(Giorgio Patrini)告诉The Verge。“重要的是要注意到，这个机器人的AI核心的其他版本，图像处理和合成，都可以在网上的代码库免费获得。但你需要成为一名程序员，并对计算机视觉有一定的了解，才能让它们工作，而不是强大的硬件。现在，所有这些都是无关紧要的，因为它是由嵌入到即时通讯应用中的机器人来处理的。

Sensity的报告说，“有理由认为”大多数使用这些机器人的人“主要对消费深度假色情感兴趣”(这在色情网站上仍然是一个受欢迎的类别)。但这些图片和视频也可能被用来敲诈、勒索、骚扰等等。已经有很多记录在案的使用人工智能生成的裸体针对女性的案例，其中一些使用Telegram上的机器人创建裸体的人可能是出于这些动机而这样做的。

“贬低我们每个人的假视频和照片会毁了我们的声誉。”

帕特里尼告诉The Verge，Sensity的研究人员没有看到该机器人的发明被用于这些目的的直接证据，但表示该公司相信这种情况正在发生。他补充说，虽然深度伪造的政治威胁是“误判的”(“从肇事者的角度来看，求助于PS图像，并以更少的努力获得传播虚假信息的类似影响，更容易、也更便宜”)，但很明显，这项技术“对个人声誉和安全构成了一系列威胁”。