WH的AI EO是BS

2020-12-04 22:07:52

选举执行长与其他选举执行长一样,因为它仅限于总统可以强迫联邦机构做的事情,实际上,这并不是很多。这一“指导联邦机构受到指导”的是九项原则,它忽略了那里的影响程度。请,代理机构-受到指导!

然后,当然,所有军事和国家安全活动都将被排除在外,这是人工智能系统处于最危险状态且监督最为重要的地方。没有人担心NOAA对AI所做的事情-但他们非常关心三字母代理机构和五角大楼正在做什么。 (他们有自己的自我施加的规则。)

这些原则是一个愿望清单。联邦调查局使用的AI必须是:

合法有目的且以绩效为导向;准确,可靠和有效;安全,有保障和有弹性;可以理解的负责任和可追溯;定期监测;透明;负责

我会挑战任何人,以发现在世界任何地方都存在所有这些重要的AI重大部署。任何机构都声称,他们使用的AI或机器学习系统遵守EO中详细说明的所有这些原则,因此应该极度怀疑。

这并不是说这些原则本身就是坏的或毫无意义的-机构在考虑将AI用于某些事物时能够量化风险,并且要有一个监控其效果的流程,这当然很重要。但是行政命令并不能做到这一点。可能从城市和州一级开始的强有力的法律已经表明了要求AI负责的内容,尽管联邦法律不太可能很快出现,但这不能代替全面的法案。在几乎所有方面都太过动摇了。此外,像这些年前一样,许多机构已经采用了“原则”。

EO实际上要做的一件事就是强迫每个机构生成一份清单,列出将其用于AI的所有用途,但是可以对其进行定义。当然,要超过一年才可以看到。

在订购后的60天内,代理商将选择此AI库存的格式;此后180天,必须完成库存;之后的120天,必须完成清单并进行审核,以确保与原则保持一致;计划使系统与它们保持一致,这些机构必须“努力”在另外180天内完成;同时,必须在完成库存后60天内与其他代理商共享库存;然后,在完成后的120天内,必须与公众共享(减去对执法,国家安全等敏感的内容)。

从理论上讲,我们可能会在一个月内获得这些库存,但实际上,我们正在寻找大约一年半的时间,届时,我们将获得上届政府提供的AI工具的快照,并删除所有多汁的内容。由他们自行决定。不过,这可能取决于真正的内容而引起有趣的阅读。

像其他同类机构一样,这种行政命令是白宫试图以积极领导的身份出现在几乎完全由他们掌握的事情上。开发和部署AI一定要遵循共同的原则,但是即使可以以自上而下的方式建立这些原则,这种松散,轻度约束的姿态(某种程度)也使某些机构不得不淡化-发誓要对他们进行真正的思考不是这样做的方法。