LinkedIn，ZipRecruiter和CareerBuilder等职位搜索网站如何努力从其AI Powered匹配算法中删除性别和种族偏见

多年前，LinkedIn发现它用于将作业候选人与机会相匹配的推荐算法正在产生偏见的结果。该算法部分地在候选人的基础上排名候选人，他们是如何申请职位或响应招聘人员的可能性。系统的伤口比妇女更多的男性，因为男性在寻求新的机会时往往更具侵略性。

LinkedIn发现了这个问题并建立了另一个AI程序，以抵消第一个结果的偏差。与此同时，世界上一些最大的求职网站 - 包括CareerBuilder，Ziprureuler和Monster - 正在采取非常不同的方法来解决自己的平台上的偏见，因为我们在我们信任的机器中报告了MIT技术评论的播客的最新发作。 “由于这些平台没有完全披露他们的系统如何工作，因此求职者难以知道这些措施的实际措施有效了。

如果您今天开始寻找新的工作，人工智能可能会影响您的搜索。 AI可以确定您在求职平台上看到的帖子，并决定是否将您的简历传递给公司的招聘人员。有些公司可能会要求您玩AI动力的视频游戏，以衡量您的个性特征，并衡量是否适合特定角色。

越来越多的公司正在使用AI招聘和雇用新员工，并且AI可以考虑到招聘过程中的几乎任何阶段。 Covid-19为这些技术推动了新的需求。奇怪的事情和人权，公司专门从事AI动力访谈，在大流行期间报告了业务飙升。

但是，大多数工作狩猎，从简单的搜索开始。求职者转向LinkedIn，Monster或Zipruiter等平台，在那里他们可以上传他们的简历，浏览职位帖子，并申请开口。

这些网站的目标是将合格的候选人匹配可用职位。为了组织所有这些开口和候选人，许多平台采用AI驱动推荐算法。算法有时被称为匹配引擎，从求职者和雇主的处理信息，以策划每个建议列表。

“你通常会听到招聘人员六秒钟看着你的简历，吧？”蒙特商品管理副总裁Derek Kan说。 “当我们查看我们构建的推荐引擎时，您可以将该时间减少到毫秒。”

大多数匹配引擎被优化以生成应用程序，LinkedIn的产品管理前副总裁John Jersin表示。这些系统基于三类数据的建议：用户直接提供给平台的信息;基于具有类似技能，体验和兴趣的其他人分配给用户的数据;和行为数据，例如用户响应消息或与职位发布的互动的频率。

在LinkedIn的情况下，这些算法不包括一个人的名称，年龄，性别和种族，因为包括这些特征可以有助于自动化过程中的偏见。但是Jersin的团队发现即使是这样，服务的算法仍然可以检测具有特定性别身份的组展出的行为模式。

例如，虽然男性更有可能申请需要超越其资格的工作经验的工作，但女性倾向于只参加其资格符合该职位要求的工作。该算法解释了这种行为的变化，并以一种无意中缺乏女性的方式调整其建议。

“你可能会推荐，例如，更多的高级工作超过一群人，而不是另一群人，即使它们与相同的水平有资格，”杰林说。 “这些人可能不会接触到同样的机会。这真的是我们在这里谈论的影响。“

男性还包括较低程度的熟练程度，而不是女性的更多技能，而且他们经常与平台上的招聘人员更积极地参与。

为了解决这些问题，Jersin和他的LinkedIn的团队建立了一个旨在生产更多代表性结果并在2018年部署的新的AI。它基本上是一个独立的算法，旨在抵消对特定群体歪斜的建议。新的AI确保在引用由原始引擎策划的匹配之前，推荐系统包括跨性别用户的均匀分配。

Kan说怪物，在任何给定的时间列出了5到600万个工作，也将行为数据纳入其建议，但不能以与LinkedIn所做的方式相同的方式来纠正偏差。相反，营销团队专注于让用户从各种各样的背景上注销服务，然后公司依赖雇主报告并告诉怪物是否通过代表的候选人。

CareerBuilder的首席执行官Irina Noveselsky表示，她专注于使用该服务收集的数据，以教授雇主如何消除职位发布的偏见。例如，“当候选人用”Rockstar“这个词读取职位描述”时，“占据了较低的女性，”申请了较低的女性，“她说。

Ian Siegel，Ziprecruiter的CEO和Cofounder表示，该公司的算法不会在排名候选人时考虑某些识别特征，如账户;相反，他们根据64种其他类型的信息来分类人，包括地理数据。他说，该公司并没有讨论其算法的细节，引用了知识产权问题，但补充说：“我相信我们与目前可以完成的人民的绩效评估。”

在招聘流程的每一步进行自动化，求职者现在必须学习如何突出算法和招聘经理。但没有关于这些算法所做的内容，候选人面临重大挑战。

“我认为人们低估了影响算法和推荐发动机的就业机会，”肯说。 “你展示自己的方式很可能先在成千上万的机器和服务器中读取，在它甚至达到一种人眼前。”