Tom Cruise的Deepfake展示了技术对社会的威胁是真实存在的

演员汤姆·克鲁斯（Tom Cruise）的新Deepfake视频已经在@deeptomcruise手柄下进入TikTok，男孩看起来很真实。它们是如此逼真，实际上，如果您没有被帐户处理程序提醒，您甚至可能都不知道它们是计算机生成的。它们的制作所使用的巡航和Deepfake技术的样本片段不多，任何人都可以更轻松地使用它们。

即使在两年前，也很难区分真实的视频和AI生成的视频。但是这项技术的发展如此之快，以至于我们已经达到了逃脱速度的点，而且很明显，深度烘焙将不会仅仅用于无辜的目的，例如为您过去亲戚的照片制作动画。

眼见为实—社会证明安全首席执行官Rachel Tobac在一系列推文中警告说，@ deeptomcruise之类的冒牌货有可能进一步削弱公众对这个世界的信任，在这个世界上，人们的媒体素养很差，人们已经无法就什么达成共识＆ ＃39；对或错。就像黑色和金色的连衣裙一样，一个人可能会注意到汤姆·克鲁斯视频是合成的赠品，另一个人可能不知道假货的迹象，并大声疾呼他们是真实的。

＆＃34;只是因为您觉得自己可以分辨合成＆amp;真实的媒体，并不意味着我们就该走了，＆＃34;她说。 ＆＃34;公众的信仰至关重要。

由于视频被广泛认为是无可辩驳的证据，因此Deepfake尤其危险。杰出人物可能会深深地陷入仇恨犯罪的行列，或者合法地实施不公正行为的人可能会使用深造的伪造品来制造犯罪嫌疑人。

人工智能与人工智能—随着深度假货的不断完善，包括微软在内的公司已经构建了可以检测到它们的工具，并根据操纵某段内容的信号生成置信度分数，例如肉眼看不见的淡淡褪色或灰度元素的出现。实际上，当一个名为CounterSocial的网站通过其自己的人工智能算法运行时，它们能够检测到汤姆·克鲁斯的视频是假冒的。

但是TikTok是托管视频的地方，并且该应用没有内置任何类型的Deepfake检测器。追溯检测的问题是，到标记了虚假信息时，要扭转该错误可能为时已晚。损害。 Microsoft尝试使用数字签名工具解决此问题。想法是，内容创建者会在对视频的元数据进行编码时对其进行签名，然后用户在浏览器中安装的工具会在元数据已经过某种更改的情况下向他们发出警报。它仍然是一个实验性的概念。

标签的时间到了— Tobac说，像TikTok这样的应用程序需要集成Deepfake检测和标签工具。 在此之前，克鲁斯和其他人将需要在这些社交网络上进行验证，才能在假货面前脱颖而出。 即使在将此类检测层添加到TikTok等应用程序之后，deepfake技术仍将继续改进，这很可能意味着从现在开始不断的猫捉老鼠游戏。 微软已经承认，即使是其检测技术也需要不断更新。 那仅仅是技术的本质。