新西兰为政府使用算法设定标准

独家报道：统计部长称新的算法宪章-从红绿灯到警察决策-是建立公众信任的重要组成部分。

新西兰政府表示，它是世界上第一个就公共机构应该如何使用算法制定一套标准的国家，这些算法越来越多地推动官员们在公共生活的各个领域做出决策。

近年来，事实证明，世界各地政府越来越多地应用算法-特别是当执法机构、移民机构、福利机构和卫生机构部署算法来分析或产生关于公民的决定时-已被证明是有争议的。批评人士声称，由代码行驱动的决策可能是不准确和歧视性的，而且它们的使用通常是对公众保密的。

荷兰一家法院在2月份裁定，用于检测福利欺诈的自动监控系统是非法的-这一决定引发了关于是否需要在其他国家进行更严格审查的辩论。

新西兰也不例外：统计部长、左倾绿党(Green Party)联席领导人詹姆斯·肖(James Shaw)表示，2019年对公共部门算法使用的审查发现，“在使用程度和使用方式方面，存在巨大的差异”。

他说，算法决定了从看似无害的事情-比如当惠灵顿市中心的一条街道上的红绿灯改变-到更严重的事情，包括警察对前线警察的决策，而且它们的使用正在扩大。

《卫报》(The Guardian)看到的新西兰宪章原定于周二启动，19个政府机构是最初的签字人。在这份文件中，各部门承诺对算法如何推动决策公开透明，包括给出“通俗易懂”的解释；提供有关使用的过程和数据如何存储的信息，除非法律禁止(如出于国家安全原因)；以及识别和管理告知算法的偏见。

各机构还必须考虑Tao MāOri或土著对数据收集的世界观--在新西兰，MāOri在司法和监狱系统中的代表性不成比例--并与受其等式影响的团体进行协商。

“这在一定程度上是由一个事实推动的，因为人们现在越来越意识到Facebook是如何运营的，以及数据的使用和操纵在多大程度上塑造了我们的生活，”肖说，他指的是社交媒体公司使用算法将用户引导至内容的方式。“这是建立公众对政府机构信任的一个非常重要的部分。”

致力于该宪章的部门包括新西兰的事故赔偿计划-该计划在2017年因使用算法检测账簿上的人之间的欺诈行为而受到批评-以及惩戒机构，该机构部署了算法来确定囚犯再次犯罪的风险。

但是，批评人士谴责使用算法的高调案件的其他机构-包括3月份被发现通过算法分析申请者的移民局-以及2019年因在没有宣布的情况下引入面部识别技术而受到隐私倡导者抨击的警方，都不在签字人之列。这个国家的间谍机构也不是。

肖办公室的一位发言人说，没有任何机构排除了特许的可能性，预计其他机构将在晚些时候签署。

这些标准不包括执行机制。肖说，他希望签署宪章的机构在几个月内能在自己的网站上提供信息，解释算法是如何使用的，甚至提供源代码-如果他们不这样做，公众可以要求提供。

奥塔戈大学(University Of Otago)法学教授科林·加瓦汉(Colin Gavaghan)参与了2019年的审查，该审查建议成立一个独立的监管机构来监督机构使用算法的情况-政府在宪章中没有采取这一举措。他说，新标准中有“很多值得喜欢的地方”，他希望这些标准可以作为其他国家政府的蓝图。

“一如既往，魔鬼在于细节，这意味着执行，”他说。“我们仍然觉得，设立一个应该拥有全政府职权的监督和监管机构似乎是个好主意。”

Gavaghan赞扬了宪章中的一点，即要求机构提供一个渠道，对由算法通知的决定提出上诉，但他补充说，即使在新的标准下，“人们可能并不总是知道”他们受到了这样的决定的影响。

肖说，他相信这份文件是世界上第一份文件-没有其他政府制定出涵盖每个签署机构使用的所有算法的标准。