Telegram上的一个深度假机器人通过伪造普通照片中的裸体来侵犯女性

在Telegram Messenger应用程序上发现的一个免费、易于使用的深度假机器人已经让数万名女性受害，他们用裸体取代了照片中穿着的身体部分。超过10万张这样的非双方同意的性爱照片已经在网上公开发布，但这个机器人可能产生了更多没有被追踪到的数量。

根据周二关于该机器人的一份研究报告，受害者大多是私人，她们的照片是从社交媒体上被拿走的，或者是从个人收藏的照片中提取的。一些受害者最初被拍到穿着泳衣。一些人穿着简单的T恤和短裤。一些人显然是未成年的。都是女性。

深度假冒色情并不是什么新鲜事。深伪技术-制造复杂媒体伪造的人工智能-很早就被用来编造色情作品，而且经常被用来编造色情作品。但这款电报机器人将这项技术的易用性和可获得性提升到了一个新的水平。

深度假冒研究公司Sensity的首席执行官、该报告的合著者乔治·帕特里尼(Giorgio Patrini)表示，这里的创新不一定是任何形式的人工智能。这只是因为它可以很容易地接触到很多人。

计算机对媒体的操纵已经存在了几十年，只要互联网可以保存照片，性图像就一直在网上武器化。无论是未经同意发布的裸照，还是粗暴篡改的赝品，性图片都被武器化，以敲诈、威胁、羞辱和骚扰受害者。

但直到最近几年，深度假技术才加剧了被操纵的性媒体的威胁，对可能发生的事情造成了可怕的影响。

深度假冒现象更令人担忧，因为它看起来不像PS过的。迈阿密大学(University Of Miami)法学教授、网络滥用非营利性组织网络民权倡议(Cyber Civil Rights Initiative)主席玛丽·安妮·弗兰克斯(Mary Anne Franks)表示，对于没有技术知识的人来说，制作一张这样的照片要容易得多。这也使得避免这种滥用的能力变得更加困难。

有了这个Teleam机器人，任何上传过自己腰部以上自拍的女性都可能成为潜在的受害者。即使是外出散步的女性，如果被错误的陌生人偷拍，也可能成为受害者。

在这款机器人最令人不安的虐待形式之一中，儿童的照片被上传到机器人的人工智能中，自动被操纵来使孩子变得性感，然后公开分享。

Sensity的报告和这篇文章都没有透露机器人的名称，以避免夸大它。CNET观看了带有机器人水印的图片库，这些图像发布在网上，并与机器人本身进行互动，没有上传任何照片供其操纵。

Telegram对言论自由和隐私的坚定不移的承诺可能会使这样的机器人面临消灭的挑战。Telegram因主持恐怖主义宣传和协调，为盗版和侵犯版权提供便利，以及窝藏各种掠夺性色情内容而受到批评。但该机构也采取了行动来消除虐待行为，比如启动新纳粹和ISIS等暴力极端分子的组织。

人权视频组织Witness的项目总监萨姆·格雷戈里(Sam Gregory)说，Telegram等加密平台显然有价值。他也是Sensity报告的顾问。这并不意味着他们不应该考虑使用他们的平台来做与言论自由无关的事情。

在过去的六个月里，Sensity多次就其发现联系Telegram。Telegram没有回应Sensity的联系，也没有回复CNET寻求置评的消息。

深伪技术就像一条用类固醇制成的高速Photoshop传送带。利用一种被称为神经网络的人工智能，深度伪造技术可以产生媒体伪造，让人们看起来像是在做或说他们从未做过的事情。“深度假”一词最常用于视频，但“深度假”可以指通过深度机器学习产生的任何所谓的合成媒体，包括色情静止照片。

如果说Telegram上的这个机器人听起来熟悉得令人不安，那么去年，一项名为DeepNude的类似技术一举成名，但在一篇新闻文章曝光后，它在一天内变得如此流行，以至于程序员将其关闭。

和Telegram机器人一样，DeepNude使用人工智能自动生成照片中女性的非双方同意的性爱图像，用裸体替换她们拍摄的衣服。实际上，这两个人似乎都是照片中所穿衣服的受害者。

DeepNude是一个提供Windows和Linux应用程序的网站，需要一定程度的技术才能操作。事实上，为Telegram机器人提供动力的人工智能似乎是DeepNude'；软件的开源版本。但新的机器人比原来的桌面应用程序更简单、更容易使用，而且Telegram上的任何人都可以使用它。只要点击几个提示，机器人就会接受你要操作的第一张照片。

该机器人还被设计成让滥用者通过聊天和其他在线形式分享被操纵的图像变得容易。

帕特里尼说，这些非双方同意的性爱图像已经被放在那里寻找。他们在互联网上是完全开放的，没有任何登录，没有任何密码。这些实际上是完全暴露出来的。

截至7月底，Sensity发现了104,852张被机器人伤害的女性照片，然后公开分享。虽然每张照片可能都不是唯一的个人，但帕特里尼说，同一名女性受到伤害或同一张照片被重复篡改的例子很少见。

100,000多张图片总数仅限于公开发布的经过篡改的照片，Sensity能够追踪到这些照片。帕特里尼补充说，Sensity并不知道没有共享的材料的范围。但毫无疑问，我们谈论的是这10万人中的某个倍数。

这个机器人越来越受欢迎。一年前，该机器人在一个月内在频道上发布了大约1000张由机器人操纵的图片。根据Sensity的数据，7月份，这个数字已经膨胀到至少24,168张照片。

根据Sensity‘s Report中一项针对BOT用户的自我报告，虽然“深度假色情”长期以来一直专注于伤害女演员、模特和其他名人女性，但这款BOT的攻击目标中有70%是私人用户。在Sensity’s Report中，Sensity对该BOT的用户进行了一项自我报告的调查。

大约有10万人是与机器人相关的频道的成员。这些成员绝大多数来自俄罗斯和前苏联国家，约占受访者的70%。Telegram在全球范围内使用，但它的根源在俄罗斯，而俄罗斯主要社交网络VK上发布的Telegram机器人的链接，是滥用者找到该机器人的最常见方式。Telegram和VK都是由帕维尔·杜罗夫(Pavel Durov)创立的，他有时被称为俄罗斯的马克·扎克伯格(Mark Zuckerberg)。

这款机器人采用免费增值商业模式，为免费用户提供基本功能，并为付费用户保留高级功能。正是这种用户友好的策略帮助像Spotify和堡垒之夜这样的合法应用和游戏在全球范围内脱颖而出。

滥用者可以通过一次发送一张照片的方式免费使用这款机器人，似乎一天最多发送五张照片。但付费功能包括发送多张照片，跳过免费用户的排队，以及从他们得到的色情图片中删除水印。

但这款机器人的商业战略也雄心勃勃，灵感来自游戏和经典的促销比喻。

在一个游戏化的回合中，高级功能是用虚拟硬币支付的。这些硬币可以用真实货币便宜地购买，硬币彩票似乎免费分发一些。它们也可以被赚取，作为奖励。

其中一个值得奖励的行为是招募新用户。由于这款应用程序说它的虚拟硬币可以用卢布偿还，它有效地创建了一个系统，用政府发行的货币向滥用者支付金钱，以换取新的滥用者。

幸运的是，奖金大概很少：机器人硬币的价值很便宜，每个大约5美分。

机器人的设计者也采用了经典的促销策略。你买的硬币越多，可以得到更大的折扣。这款机器人向新用户推出了一次性的硬币新手优惠。

该机器人还突显了对选举深伪的执着是如何错过了色情深伪造成的更广泛的破坏，色情深伪是更常见的受害者，而且已经是毁灭性的受害者。

格雷戈里说，人们对深度假货的关注很大程度上是在选举背景下进行的。全神贯注于政治候选人或世界领导人完美的深度伪装，这种虚假信息往往会引发国会听证会。但这忽略了对普通人造成的伤害，规模更大、增长更快，在那里，即使是质量低劣的深伪也仍然具有很大的危害性。

我们知道，非双方同意的形象被用来对付普通人、记者……。格雷戈里说，并以公民活动家为目标。

即使像这样的机器人已经运行了几个月，Witness还没有观察到这种骚扰的爆炸性增长。这是一件好事，格雷戈里补充道。这并不意味着我们不应该高度警惕。

但弗兰克斯说，即使是警惕也不太可能为受害者伸张正义。弗兰克斯指出，几年前，我们的法律体系在解决武器化的性意象方面存在历史上的失败。

我们不会处于这样的境地，因为我们拥有能够以如此规模发布此类恶意内容的技术。如果我们之前注意到的话。她说：我们现在需要做得更好。如果说这项可怕的技术有什么好处的话，那就是人们可能会更认真地对待这件事。