2009年印度推出Aadhaar项目时,Amba Kak还在上法学院。国家生物识别系统被设想为一个全面的身份识别计划,试图收集所有居民的指纹、虹膜扫描和照片。Kak回忆说,没过多久,关于其破坏性后果的故事就开始传播。她说:“我们突然听到报告说,用手工作的体力劳动者-他们的指纹是如何不能通过系统的,然后他们被拒绝获得基本必需品。”“我们实际上在印度有饥饿死亡,这与这些生物识别系统造成的障碍有关。所以这是一个非常关键的问题。“。
这些情况促使她研究生物识别系统,以及法律可以追究它们责任的方式。9月2日,现任纽约AI Now研究所全球战略和项目主任的Kak发布了一份新的报告,详细介绍了世界各地如何监管生物识别系统的8个案例研究。他们跨越城市、州、国家和全球的努力,以及一些来自非营利性组织的努力。我们的目标是更深入地理解不同的方法是如何工作的或如何做不到的。我和Kak谈到了她学到了什么,以及我们应该如何继续前进。
无论是在政府领域,还是在我们的私人生活中,生物识别技术都在激增并变得正常化。仅在今年,仅在香港、德里、底特律和巴尔的摩就发生了使用面部识别对抗议活动进行监控的情况。生物识别系统,这是一个较少被谈论的系统,其中生物识别被用作获得你的福利服务的条件-这在亚洲、非洲和拉丁美洲的低收入和中等收入国家也激增。
但有趣的是,对这些系统的抵制也达到了顶峰。围绕它的倡导比以往任何时候都受到更多的关注。那么问题来了:法律和政策在哪里发挥作用?这就是这个提纲的用武之地。这份报告试图在政府和倡导团体似乎对更多监管有很大兴趣的时候,从这些经验中吸取我们可以学到的东西。
全球生物识别监管的现状如何?处理这项新兴技术的法律框架有多成熟?
世界上大约有130个国家有数据保护法。几乎所有的都涵盖了生物特征数据。因此,如果我们只是问这样一个问题,即是否存在法律来规范生物特征数据,那么答案将是在大多数国家,它们确实存在。
但是,当你更深入地挖掘一下,数据保护法的局限性是什么?数据保护法在最好的情况下可以帮助你监管生物特征数据的使用,并确保它不会被用于未经同意的目的。但准确性、歧视等问题仍然很少受到法律关注。
另一方面,如果完全禁止这项技术呢?我们已经看到,这集中在美国的城市和州一级。我想人们有时会忘记,这些立法活动大部分都集中在公众身上,更具体地说,是关于警察的使用。
因此,我们有一套数据保护法,提供了一些保障措施,但本质上是有限的。然后我们在美国的地方、城市和州一级集中了这些完全的暂停。
对我来说,最清楚的是纳扬塔拉·兰加纳坦(Nayantara Ranganathan)关于印度的章节,以及莫妮克·曼(Monique Mann)和杰克·戈登费恩(Jack Goldenfein)关于澳大利亚面部识别数据库的章节。这两个都是大规模的集中式州架构,其要点是消除不同州和其他类型的数据库之间的技术孤岛,并确保这些数据库集中链接。所以你在创建这个怪兽集中式的、中央链接的生物识别数据架构。然后,作为这个巨大问题的创可贴,你会说,“好的,我们有一部数据保护法,它规定数据永远不应该用于没有想象或预期的目的。”但与此同时,你正在改变人们对可预见事物的预期。今天,在刑事司法背景下使用的数据库现在正在移民背景下使用。
例如,(在美国)ICE现在正在或试图在移民执法过程中使用或尝试使用不同州的DMV数据库。这些都是在平民背景下创建的数据库,他们试图将其用于移民。同样,在澳大利亚,你有一个巨大的数据库,其中包括驾照数据,现在它将被用于无限的刑事司法目的,内政部将拥有完全的控制权。同样,在印度,他们制定了一项法律,但法律基本上将大部分自由裁量权掌握在创建数据库的当局手中。因此,我认为从这三个例子中,我清楚地认识到,你必须把法律放在正在发生的更广泛的政治运动的背景下阅读。如果我必须总结更广泛的趋势,那就是治理的各个方面的证券化,从刑事司法到移民到福利,这与推动生物识别技术不谋而合。这就是其中之一。
第二个--这是我们一直在重复的一个教训--同意作为一种法律工具被严重破坏了,在生物特征数据的背景下,它肯定是被破坏了。但这并不意味着它毫无用处。伍迪·哈佐格(Woody Hartzog)关于伊利诺伊州生物识别信息隐私法案(BIPA)的章节说:看,我们已经有几起针对使用BIPA的公司的成功诉讼,最近一次是与Clearview AI一起,这很棒。但我们不能一直期待“同意模式”带来结构性变化。我们的解决方案不可能是:用户最清楚;用户会告诉Facebook,他们不希望自己的面部数据被收集。也许用户不会这么做,做出这些决定的负担不应该落在个人身上。这是隐私界真正学到的一件事,这就是为什么像GDPR这样的法律不仅仅依赖于同意。还有一些严格的指导原则规定:如果您出于某种原因收集数据,则不能将其用于其他目的。你不能收集超过绝对必要的数据。
你认为有没有哪个国家或州在生物识别监管方面表现出了特别的承诺?
是啊,不出所料它不是一个国家或州。这实际上是红十字国际委员会(红十字委员会)。在这本书中,本·海耶斯(Ben Hayes)和马西莫·马雷利(Massimo Marelli)-他们实际上都是红十字委员会的代表-写了一篇反思文章,说明他们如何决定在分发人道主义援助的背景下使用生物识别技术是合法的。但他们也认识到,有许多政府会向他们施压,要求他们获得这些数据,以便迫害这些社区。
因此,他们遇到了一个非常现实的难题,他们通过说:我们想要创建一个生物识别政策,将人们生物识别数据的实际保留降至最低,从而解决了这个难题。因此,我们要做的是有一张卡,在卡上安全地存储某人的生物特征数据。他们可以使用这张卡来获得正在提供的人道主义福利或援助。但如果他们决定扔掉这张卡,数据将不会存储在其他任何地方。该政策基本上决定不建立包含难民和其他需要人道主义援助的数据的生物特征数据库。
对我来说,更广泛的教训是认识到问题是什么。这种情况下的问题是,数据库正在创造一个蜜罐和一个真正的风险。因此,他们想出了一种技术解决方案,并想出了一种方法,让人们可以通过完整的代理来提取或删除他们的生物特征数据。
这总是一个很难回答的问题,但它不应该是这样的。可能是拉希达·理查森和斯蒂芬妮·科伊尔的章节。他们的章节几乎就像是关于纽约这群父母的民族志,他们非常强烈地感觉到,他们不希望自己的孩子受到监视。他们说,“我们会参加每一次会议,尽管他们并不期望我们这样做。我们要说我们在这方面有问题。“。
了解到一个完全改变了话题的是家长团体的故事,真的让人松了一口气。他们说:我们不要讨论生物特征识别或监控是否必要。让我们来谈谈这对我们的孩子的真正伤害,以及这是否是最好的用钱方式。然后一位参议员拿起它提出了一项法案,就在8月份,纽约州参议院通过了这项法案。我和Rashida一起庆祝,因为我想,“耶!像这样的故事发生了!“。它与倡导的故事有很深的联系。