纽约市提议在招聘中使用调节算法
1964年，《民权法》禁止做出雇用决定的人基于性别或种族歧视。现在，软件通常有助于做出这些雇用决定，帮助经理筛选简历或解释视频采访。
这令一些技术专家和民权组织感到担忧，他们引用证据表明算法可以复制或放大人们所表现出的偏见。路透社在2018年报道称，亚马逊废弃了一种工具，该工具根据过去的招聘模式过滤了简历，因为它歧视女性。
纽约市议会提议的立法旨在更新算法时代的雇用歧视规则。该法案将要求公司在通过软件进行评估后向候选人披露。销售此类工具的公司必须进行年度审核，以检查其人员分类技术是否具有歧视性。
这项提议是各级政府最近对将法律约束条件施加于可改变生活的决策的算法和软件的运动的一部分，当民主党人控制白宫和国会两院时，这些约束可能会转变为新的手段。
美国有十几个城市禁止政府使用人脸识别，纽约州最近通过了一项为期两年的暂停使用该技术在学校的规定。一些联邦立法者已经提出立法来规范公司所使用的面部算法和自动决策工具，包括用于雇用。 12月，10名参议员要求平等就业机会委员会对AI招聘工具的偏见进行警察调查，他们表示担心该技术会加深就业方面的种族差距，并损害边缘化社区从COVID-19的经济复苏。也是在去年，一项新法律在伊利诺伊州生效，需要征得同意，然后才能对求职者进行视频分析。马里兰州的一项类似法律也限制了人脸分析技术在招聘中的使用。
与实施此类规则相比，立法者在谈论监管新算法和AI工具方面更为实践。旧金山在2019年禁止人脸识别几个月后，它不得不修改该条例，因为它无意中将城市拥有的iPhone视为非法。
民主党议员劳里·坎博（Laurie Cumbo）提出的纽约市提案将要求公司使用所谓的自动就业决定工具来帮助筛选候选人或确定诸如薪酬之类的条件，以披露该技术的使用。要求此类软件的供应商每年对其产品进行“偏差审核”，并将结果提供给客户。
该提案面临一些不寻常盟友的抵制，以及有关其运作方式的未解决问题。代表信贷和背景调查公司的消费者数据行业协会公共政策高级副总裁埃里克·埃尔曼（Eric Ellman）表示，该法案可能给代为进行雇主进行背景调查的公司带来新的负担，从而可能使招聘变得不公平。他认为，这种检查可以帮助管理人员克服不愿从某些人口群体中雇用人员的麻烦。
一些民权组织和AI专家也出于不同原因反对该法案。监视技术监督项目的创始人阿尔伯特·福克斯·卡恩（Albert Fox Cahn）组织了包括NAACP和纽约大学AI Now Institute在内的12个组织的反对该提议的法律。卡恩希望规范招聘技术，但他说，纽约的提议可能允许永久歧视软件通过公正性审核后被盖上橡皮图章。
卡恩希望任何法律都能更广泛地定义所涵盖的技术，而不是让供应商决定如何审核自己的技术，并允许个人提起诉讼以执行法律。他说：“对于我们所关注的歧视，我们没有看到任何有意义的执法形式。”
其他人对此表示担忧，但仍然支持纽约的提议。纽约大学负责人人工智能中心主任朱莉娅·斯托亚诺维奇（Julia Stoyanovich）说：“我希望该法案能够继续下去。” “我也希望它将得到修订。”
像卡恩一样，斯托亚诺维奇也担心法案的审计要求没有得到很好的定义。她仍然认为值得这样做，部分原因是当她在皇后区公共图书馆组织有关招聘技术的公开会议时，许多市民惊讶地发现自动化工具得到了广泛使用。 Stoyanovich说：“我赞成的原因是，这将迫使向人们披露他们对机器和人类进行了部分评估。” “这将有助于使公众参与对话。”
两家总部位于纽约的初创公司表示欢迎他们，他们的招聘工具将受到新规定的约束。 HiredScore的创始人试图根据简历和其他数据源突出有前途的候选人，而Pymetrics则在机器学习的帮助下提供基于认知心理学的在线评估，都支持该法案。在十一月的技术。
Pymetrics的首席执行官兼联合创始人Frida Polli推销该公司的技术，以提供比应聘者等传统手段更公平的候选人信号，她说这会使处于特权背景下的人们处于不利地位。最近，该公司的技术经过了东北大学研究人员的公正性审核。她承认，该法案的审核要求可能会更加严格，但她说，目前尚不清楚如何以实际的方式进行操作，因此最好将其记入账簿。她说：“这项法案是适度的，但有力。”
市议会技术委员会主席罗伯特·霍尔登（Robert Holden）对于资金短缺的市政府定义如何审查招聘软件的能力有自己的担忧。 他还一直在听取来自其软件将属于拟议规则的公司的使节的消息，这些提议促使行业界比市议会业务往来更多。 有些人向他保证行业可以自我调节。 霍尔顿说，到目前为止，他所学到的东西清楚地表明，需要提高透明度。 霍顿说：“这几乎就像现在的狂野西部。” “我们确实必须提供一些透明度。” 霍尔顿说，该法案可能需要经过一些谈判和修改，以及市长办公室的反对意见，然后才能由议会进行最后表决。 如果获得通过，它将于2022年1月生效。
