研究人员发现隐私保留工具留下无保护的私人数据

纽约布鲁克林，星期二，星期二，3月2日，2021年3月2日 - 机器学习（ML）系统不仅在影响我们日常生活的技术方面变得普遍存在，而且在那些观察到它们的人中，包括面部表情识别系统。制作和使用如此广泛部署的服务的公司依赖于经常使用生成的对冲网络（GANS）的所谓的隐私保存工具，通常由第三方制作来擦除个人身份的图像。但他们有多好？

Nyu Tandon工程学院的研究人员探索了这些工具背后的机器学习框架，发现答案是“不是很好”。在论文中，在纽约州纽约州纽约市电力计算机工程研究所副教授的第35届AAAI智力大会上，上个月展示了消毒剂的掩藏隐私秘密私人数据仍然可以通过这种深受学习鉴别者作为隐私保护GANS（PP-GANS）的图像恢复到已被“消毒”的图像中恢复，这甚至通过了经验测试。该团队，包括铅作家康刘，博士。候选人，以及Benjamin Tan，电气计算机工程研究助理教授，发现PP-GaN设计实际上可以被颠覆通过隐私检查，同时仍允许从消毒图像中提取秘密信息。

基于机器学习的隐私工具具有广泛的适用性，可能在任何隐私敏感域中，包括从车辆摄像机数据中删除位置相关信息，滥用制作手写样本的人的身份，或从图像中移除条形码。由于涉及的复杂性，基于GaN的工具的设计和培训将外包给供应商。

“许多用于保护可能出现在监控或数据收集摄像机的人的隐私的第三方工具使用这些PP-GAN来操纵图像，”Garg说。 “这些系统的版本旨在旨在消毒面部和其他敏感数据的图像，以便仅保留应用关键信息。虽然我们的普通话PP-GAN通过了所有现有的隐私检查，但我们发现它实际上隐藏了与敏感属性有关的秘密数据，甚至允许重建原始私人图像。“

该研究为PP-GAN和相关的经验隐私检查提供了背景，制定攻击情景，以询问是否可以颠覆经验隐私检查，并概述了一种绕步经验隐私检查的方法。

该团队提供了对保留保护的GAN的第一个全面的安全分析，并证明现有的隐私检查不足以检测敏感信息的泄漏。

使用小说的书签方法，他们对着最先进的PP-Ga来解决秘密（用户ID），从据称消毒的脸部图像来隐藏一个秘密（用户ID）。

他们表明，他们提出的对抗性PP-Ga可以在通过隐私检查的“消毒”输出图像中成功隐藏敏感属性，秘密恢复率为100％。

注意到经验指标取决于鉴别者的学习能力和培训预算，Garg和他的合作者认为，这种隐私检查缺乏用于保障隐私的必要严谨性。

“从实际的角度来看，我们的结果谨慎地谨慎地谨慎使用数据消毒工具，并专门由第三方设计的PP-GANS”解释道。 “我们的实验结果强调了现有的基于DL的隐私检查的不足以及使用不受信任的第三方PP-GAN工具的潜在风险。”

Nyu Tandon的工程学院至1854年，是纽约市土木工程和建筑学院和布鲁克林大学和理工学院的创始日期。 2014年1月合并为全球大学的一部分，创建了一系列综合教育和研究，作为全球大学的一部分，在Nyu Abu Dhabi和Nyu Shanghai的工程方案密切相关。 Nyu Tandon植根于人类最紧迫的全球挑战的创业，智力丰富和创新解决方案的充满活力的创业传统。 Tandon的研究侧重于通信/ IT，网络安全和数据科学/ AI /机器人系统和工具和社会的关键领域之间的重要交叉口，包括新兴媒体，健康，可持续性和城市生活。我们认为多样性是卓越的一体化，为我们所有的学生，教师和员工创造了一种充满活力，包容性和公平的环境。有关更多信息，请访问Engineering.nyu.edu。