Facebook科学家表示，他们可以讲述Deepfakes来自哪里

Facebook和密歇根州立大学的人工智能研究人员表示，他们已经开发了一款新的软件，可以揭示所谓的Deewakes来自哪里。

Deepfakes是通过某种方式与AI以某种方式进行数字改变的视频。近年来，他们变得越来越真实地变得越来越真实，使人类更加艰难地确定互联网上的真实＆＃39;实际上是Facebook，以及什么＆＃39;没有。

Facebook的研究人员声称他们的AI软件 - 周三宣布 - 可以接受培训，以建立一段媒体是一种来自静止图像或单个视频帧的百次。不仅如此，他们说该软件还可以识别用于首先创建DeepFake的AI，无论如何新建技术。

在Facebook上的应用研究铅塔·哈斯纳告诉CNBC，它可以培训AI软件＆＃34;要查看照片并以合理的准确性告诉您，AI模型的设计是什么？生成那张照片。＆＃34;

在去年的MSU实现它之后，这项研究可以确定它＆＃39;可以确定使用什么模型用于拍摄特定的照片 - Hassner表示Facebook＆＃39;使用MSU的工作。

DeepFakes对Facebook是不良消息，这不断争夺其主要平台的假内容，以及Messenger，Instagram和Whatsapp。该公司于1920年1月禁止了Deepfakes，但它挣扎着从其平台上迅速删除所有这些。

哈兹纳说，侦探德国人是＆＃34;猫和老鼠游戏，＆＃34;添加它们＆＃39;重新越来越容易生产和更难检测。

迄今为止，Deepeakes的主要应用之一是在一个人和＃39; s脸上交换给别人的色情内容＆＃39; ve也被用来使名人看起来好像他们＆＃39 ;重新做或说出他们的东西＆＃39;重复。

实际上，Tiktok的一套超现实和奇怪的汤姆巡航Deepfake现在已经观看了5000多万次，很多努力看他们如何＆＃39;重复不是真实的。

今天，它可以使用像Fakeapp或Faceswap这样的免费应用程序来制作自己的Deewakes。

DeepFake专家尼娜肖克，他在周一的Cogx Ai会议上讲述了美国总统Joe Biden和法国总统埃姆曼纽尔MACRON表示，侦测Deepfakes Isn＆＃39; t很容易。

在后续电子邮件中，她告诉CNBC，Facebook和MSU＆＃39;工作＆＃34;看起来像检测的一个非常大的交易。但强调它的＆＃39是重要的，了解Deepfake检测模型在野外实际上有多工作。

＆＃34;它＆＃39;＆＃39;在受控环境中的一套培训数据上，＆＃39;她说，添加那个＆＃34;一个大挑战之一似乎有简单的方法来欺骗检测模型 - 即通过压缩图像或视频。＆＃34;

Tassner承认，糟糕的演员可能有可能绕过探测器。 ＆＃34;它能击败我们的系统吗？我认为它会，＆＃34;他说。

广泛地说，有两种类型的德国。那些由AI完全生成的人，例如假装在WWW上。 thispersondoesnotexist.com，以及使用ai元素来操纵真实媒体的其他人。

Schick质疑Facebook＆＃39; S工具是否会在后者工作，添加那个＆＃34;永远不会有一个尺寸适合所有探测器。＆＃34;但刘小宁刘，Facebook＆＃39;在密歇根州国家的合作者表示，这项工作有＆＃34;在这两种案例中进行了评估和验证。＆＃34;刘补充说，＆＃34;性能可能是较低的＆＃34;在操纵只在一个非常小的区域发生的情况下。

汤姆克鲁斯·德德斯皮克背后的综合媒体艺术家克里斯梅在Cogx周一表示，DeepFake技术正在迅速发展。

＆＃34;有很多不同的ai工具和汤姆巡航，例如，我组合了很多不同的工具，以获得您在我的频道上看到的质量，＆＃34;他说。

＆＃39;尚不清楚Facebook将如何将Tassner＆＃39;软件应用于其平台。 ＆＃34;我们甚至没有讨论产品，＆＃34;说Tassner，并在其中添加了几种潜在用例，包括发现协调的DeepFake攻击。

＆＃34;如果有人想滥用他们（生成模型）并通过从不同来源上传东西进行协调攻击，我们实际上可以发现只是通过说所有这些来自同一模具我们从未见过的但它具有这些特定的属性，特定属性，＆＃34;他说。

作为工作的一部分，Facebook表示，它已收集和编目100种不同的DeepFake模型。