三天前,@ deeptomcruise的一个TikTok帐户开始发布好莱坞演员汤姆·克鲁斯(Tom Cruise)的视频片段,从高尔夫球到绊倒,讲个笑话,在意大利一家男装店里讲到各种各样的事情,然后用魔术表演一枚硬币。在这三个视频的每一个中,Cruise都会发出他的标志性狂笑(你知道,他早在几年前的Scientology招聘视频中就曾多次释放过),然后才开始流行,而在所有这些中,看起来就像Cruise 。只有它不是克鲁斯。
当然,有一些赠品。 @deeptomcruise似乎比58岁的Xenu门徒年轻得多,并且高很多英寸(在美好的一天里,真正的Cruise是5´6”)。而且,他的声音空洞而刺耳,在《面对/断》中的场景中,约翰·特拉沃尔塔·尼古拉斯·凯奇(John Travolta-as-Nicolas Cage)试图将他的声音调整为那种凯奇风格。尽管如此,Cruise TikToks还是使许多人感到困惑和恐惧。正如摄影师劳伦·怀特(Lauren White)所写:“深层假货变得越来越可怕,并接管了TikTok。每个公众人物都应该只有一个经过验证的帐户,即使他们不想制作内容也要在那里,以使其更容易识别假货。”
@deeptomcruise交易“ deepfakes”,即“深度学习”和“伪造”相结合的术语,MIT Sloan将其描述为“一种特定的合成媒体,其中图像或视频中的人会与另一个人的肖像互换。”令人震惊的是,假使假冒的克鲁斯(Cruise)在Zik社交媒体目的地TikTok上也越来越受欢迎,这是因为克鲁斯是Scientology最著名的招聘者,而且根据Scientology举报人Leah Remini的说法,该人亲自惩戒了Scientologists。
@deeptomcruise帐户已经吸引了166K的追随者,并且还在不断增加。 (TikTok未通过发布方式回应置评请求,包括Deepfake是否违反了其服务条款。)
MIT Sloan提供了以下关于如何创建“ deepfake”的描述:
为了制作一个深层的视频,创建者使用面部识别算法和称为变分自动编码器[VAE]的深度学习计算机网络来交换一个人的脸并将其替换为另一个人的脸。对VAE进行培训,将图像编码为低维表示形式,然后将这些表示形式解码回图像。例如,如果您想将获得奥斯卡奖的电影明星尼古拉斯·凯奇(Nicolas Cage)的任何视频转换成深红色,则需要两个自动编码器-一个针对演员的脸部图像进行训练,而另一个针对多种多样的图像进行训练。面孔。
可以通过将面部识别算法应用于视频帧来捕获用于两个训练集的面部图像,以捕获自然发生的不同姿势和光照条件。训练完成后,您可以将训练有多种面孔的编码器与训练有尼古拉斯·凯奇(Nicolas Cage)面孔的解码器结合在一起,从而使演员的面孔出现在其他人的身体上。
这项技术于2017年在Reddit上大放异彩,并导致前总统特朗普的恶魔般的追随者推动了许多病毒式假新闻剪辑,其中包括南希·佩洛西(Nancy Pelosi)似乎在lur毁她的讲话的人。 2019年8月,在2008年大卫·莱特曼(David Letterman)出场时,比尔·海德(Bill Hader)的一则深沉的录像带逐渐传播到汤姆·克鲁斯(Tom Cruise)。 它的创建者是一位斯洛伐克的3D艺术家,曾因《汤姆》而去世。他对《卫报》说,他使用开放源代码程序制作了大约20个Deepfake视频,每个视频需要3-5天的时间进行制作。 汤姆说:“这是一场军备竞赛:有人在制造深造假,其他人正在研究可以检测到深造假的其他技术。” “我真的不像大多数人那样将其视为世界末日。”