©版权所有（c）2019年，NVIDIA Corporation的研究人员称，人们无法区分人工智能生成的人脸（使用StyleGAN2）和真实人脸，他们呼吁采取保护措施以防止“深度假货”。
人工智能合成的文本、音频、图像和视频已经被用于所谓的“复仇色情”、欺诈和宣传。
来自兰开斯特大学的Sophie Nightingale博士和加利福尼亚大学的Hany Farid教授进行了实验，参与者被要求区分艺术状态、合成面孔和真实面孔，以及面孔唤起的信任程度。
结果表明，合成生成的人脸不仅具有高度的照片真实感，而且几乎与真实人脸无法区分，甚至被认为更可信。
他们在《华尔街日报》上写道：“我们对人工智能合成人脸照片真实性的评估表明，合成引擎已经穿过了神秘的山谷，能够创造出比真实人脸更难以区分、更值得信赖的人脸。”
研究人员警告人们无法识别人工智能生成的图像的影响。
“也许最有害的后果是，在任何图像或视频都可能被伪造的数字世界中，任何不方便或不受欢迎的记录的真实性都可能受到质疑。”
·在第一个实验中，315名参与者将从800张脸中提取的128张脸分为真实脸和合成脸。他们的准确率为48%，接近50%的机会表现。
·在第二个实验中，219名新参与者接受了培训，并就如何对人脸进行分类给出了反馈。他们从第一个实验中的800张脸中，对128张脸进行了分类，但尽管经过了训练，准确率仅提高到59%。
研究人员决定弄清楚对可信度的感知是否能帮助人们识别人造图像。
“人脸提供了丰富的信息来源，暴露时间仅为毫秒，就足以对可信度等个人特征进行隐式推断。我们想知道合成人脸是否会激活同样的可信度判断。如果不是，那么对可信度的感知就有助于区分真实人脸和合成人脸。”
第三项研究要求223名参与者对同一组800张脸中的128张脸的可信度进行评分，评分范围为1（非常不可信）到7（非常可信）。
合成人脸的平均可信度比真实人脸的平均可信度高7.7%，具有统计学意义。
“也许最有趣的是，我们发现合成人脸比真实人脸更可信。”
·黑人面孔被评为比南亚面孔更值得信赖，但除此之外，在整个种族中并没有影响。
“一张笑脸更有可能被评为值得信赖的人，但65.5%的真实脸和58.8%的合成脸都在微笑，因此单凭面部表情无法解释为什么合成脸被评为更值得信赖。”
研究人员认为，合成人脸可能被认为更值得信任，因为它们与普通人脸相似，而普通人脸本身被认为更值得信任。
为了保护公众免受“深度伪造”，他们还提出了合成图像的创建和分发指南。
“保障措施可能包括，例如，在图像和视频合成网络中加入强大的水印，这将为可靠的身份识别提供下游机制。因为这项强大技术的使用民主化构成了最重大的威胁，我们还鼓励重新考虑issez Fair面向公众，无限制地发布代码，供任何人合并到任何应用程序中。
“在这个关键时刻，正如其他科学和工程领域所做的那样，我们鼓励图形和视觉界为合成媒体技术的创造和传播制定指导方针，其中包括研究人员、出版商和媒体分销商的道德准则。”
回到新闻
也许最有害的后果是，在任何图像或视频都可能被伪造的数字世界中，任何不方便或不受欢迎的记录的真实性都可能受到质疑