社交媒体上的亲华宣传活动使用了用人工智能生成的图像制成的假追随者

PCMag编辑独立选择和审查产品。我们可能会从购买链接中赚取代销商佣金，这有助于支持我们的测试。了解更多。

一场在社交媒体上猛烈抨击美国的亲中国宣传活动一直在借助人工智能生成的图片创造虚假的追随者。

据追踪该组织活动的研究公司Graphika称，自6月以来，该竞选团队一直在Facebook、Twitter和YouTube上发布批评特朗普政府的英文视频。

Graphika称这项活动为“迷彩龙”。就像其他宣传活动一样，这个亲中国的组织将使用虚假账户分享和发布对其内容的评论，以帮助其获得更广泛的发行量。然而，Graphika注意到这些虚假账户的头像有些奇怪：在某些情况下，头像似乎是一个旨在创建人造人脸的人工智能程序的作品。

乍一看，这些头像看起来都是合法的。但经过更仔细的检查，Graphika在图像中发现了奇怪的共性，比如背景模糊，以及头像照片中的眼球位置如何巧合地匹配。这些奇怪的特征表明，这些照片很可能是“生成性对抗网络”(GAN)的产物，GAN是一种机器学习技术，擅长制造看似真实但最终是假的人脸。

甘夫妇可以通过研究真人的现有图像，并学习如何将面部特征重建成新的图像，来生成人造脸。然而，结果并不总是完美的。人工智能程序经常在渲染假人面部周围的耳环和其他物体时遇到困难。背景也很模糊。

然而，这项技术引发了人们的担忧，即坏人利用人工智能创建的媒体帮助他们在社交媒体上散布虚假信息。例如，反向图像搜索通常可以揭示用户的头像是合法的，还是从其他地方被改变了用途。但对于人工智能制作的新生成的照片来说，同样的事情就做不到了。

在Spamfoflage Dragon的案例中，这个亲中国的组织使用人工智能生成的照片在Twitter和YouTube上创建了假粉丝。然而，根据Graphika的说法，这场运动本身相当粗制滥造。该研究公司在其报告中表示：“这些视频制作得很拙劣，语言错误和笨拙的自动画外音是其标志。”

电脑辅助的文本到语音的录音非常糟糕，以至于视频都把美国读成了“我们”。其他语言错误包括使用标题和副标题，这些标题和副标题提到“公众指责特朗普的罪恶行为”，以及“非常善于恶作剧”。

因此，这些视频没有收到真正的社交媒体用户的任何参与。竞选活动从6月持续到8月初，发布视频批评特朗普总统对TikTok的禁令以及他对待新冠肺炎的方式。然而，自那以后，社交媒体公司已经删除了该组织的视频和附属用户账户。

目前尚不清楚中国政府是否是这场运动的幕后黑手。不过，美国情报官员上周警告称，包括中国、俄罗斯和伊朗在内的外国政府将试图左右美国舆论，以影响即将到来的总统选举。

Graphika表示，这并不是该公司第一次遇到将人工智能生成的照片纳入他们的计划的宣传活动。但该公司警告称：“鉴于威胁行为者现在可以轻而易举地利用公开可用的服务来生成虚假头像，这种策略可能会变得越来越普遍。”