更有证据表明Facebook广告瞄准非法歧视

南加州大学团队的新研究提供了进一步的证据表明Facebook的广告制度是歧视性的，表明，在显示工作列表时，常用于瞄准广告的算法，即使在同等合格的候选人中也可以复制现实世界性别差异。

在从软件工程到销售到食品交付的领域中，团队在大致相同的公司中促进了促进真正的职位开放的广告，该公司需要大致相同的技能，一个用于现有劳动力不成比例的男性和女性不成比例的一个公司。 Facebook展示了更多男性为不成比例的男性公司和更多女性为不成比例的女性公司的广告，即使工作资格也是一样的。本文得出结论，Facebook可能非常违反联邦反歧视法。

“我们确认Facebook的广告交付可能导致性别偏离的职位广告递送，超出可能在可能的资格差异，”团队写道。

这项工作在现有的研究中留下了留下Facebook卷的研究。团队的一个成员的一名突破性2019年学习提供了强有力的证据表明Facebook的广告算法不仅能够偏见，而且偏向于其核心。回应该研究，并且在广泛的批评过程中，在可以用来运行公然歧视性的广告活动的工具，Facebook当时告诉拦截，“我们以任何形式抵消歧视。我们对我们的广告目标工具进行了重要的变化，并知道这只是第一步。我们一直在查看我们的广告交付系统，并在这一主题上参与行业领导，学者和民权专家 - 我们正在探索更多的变化。“

基于这项新的研究，公司似乎没有远远超出了“第一步”是什么。本文 - 由USC计算机科学助理教授Aleksandra Korolova教授，John Heidemann教授，以及博士生学生玄武岩Imana - 重新评估2019年的问题：如果广告商不使用任何Facebook的人口统计目标选项，那么系统目标它自己的？

鉴于Facebook对世卫组织的控制权来，该问题是一个重要的问题，这些广告可能决定谁提供了某些重要的经济机会，从保险到一份信用卡。这种控制完全通过其内部工作保密的算法执行。由于Facebook不会提供关于算法如何工作的任何有意义的答案，Korolova和她的同事等研究人员必须弄明白。

这次是，球队希望抢占偏见的广告交付可以解释，即Facebook向那些对广告工作的人们展示了更有资格的人，这是一个可能的法律辩护，例如在法规下的非法算法偏见的指控可能的法律辩护标题VII，其中基于受保护特征的条款歧视等种族和性别。 “在七年的标题范围可能涵盖广告平台的范围内，我们所做的区别可以消除利用资格作为对歧视性结果负责的法律论证的平台的可能性，”球队写道。

于2019年，Korolova和她的团队为现实世界的职位开放创建了一系列广告，并支付了鉴于他们预算的批准，以尽可能多的人展示这些工作列表，而不是指定他们想要的眼球的某些人口队列零。这基本上留下了“谁看到”完全取决于Facebook（及其不透明算法）的决定，从而有助于突出显示到Facebook自己的代码中的偏见。

即使在控制工作资格时，研究人员也发现，Facebook自动为性别中立的性别中立就业而自动冒犯了对人们的性别的工作。

例如，Korolova的团队购买了Facebook广告活动，以促进两个送货驾驶员工作列表，一个来自Instacart和另一个来自多米诺骨牌的人。这两个职位在所需资格和两个公司方面都是相当的，“这两家公司都有”有关的数据显示，事实上的性别分配是歪曲的“：大多数多米诺州的司机是男性，而且大多数Instacart司机都是女性。通过运行这些广告只有授权只能最大化眼球，无论如何，该团队寻求“研究广告传递优化算法是否重现这些事实上的偏差，即使它们是基于资格差异的合理性，”与之期望找到“广告交付优化超出了资格的合理性和再现事实上的平台，以显示多米诺骨牌的广告比Instacart广告相对更多。”结果表明了这一点。

留下了自己的设备，该团队发现Facebook的广告交付算法占据了Domino和Instacart列表，以及后来的实验，基于其他公司的软件工程和销售助理Gigs的广告，并向他们展示了基本上复制了现有的在线观众离线性别差异：“我们在Facebook上观察到的倾斜与事实上的倾斜相同，Domino的广告送到了比Instacart AD的更高的男性。”由于实验旨在从图片中脱颖而出，团队表示，他们加强了“以前提出的撰写了Facebook的广告交付算法可能违反反歧视法”。“作为一个额外的扭曲，团队在LinkedIn上运行了相同的广告，但没有看到系统性性别偏见的证据。

Facebook发言人Tom Chankick告诉截距：“我们的系统考虑到许多信号来尝试和服务人们广告，他们将最感兴趣，但我们了解报告中提出的担忧，”补充说“我们已经采取了有意义的步骤地址广告中歧视问题，并在今天的广告公平上致力于努力。我们继续与“民间权利界，监管机构”和“学者密切合作”这一重要事项“。

虽然USC团队能够巧妙地暴露Facebook广告的偏见结果，但它们的方法在回答为什么发生这种情况时，他们的方法会击中砖墙。这是通过设计：Facebook的广告传递算法，就像所有其余的自动化决策系统一样，它占据了数十亿用户，是一个黑匣子算法，与公司内部以外的任何人完全不透明，劳动者受不合情的协议和宣誓秘密的束缚。团队调查结果的一个可能的解释是，广告传递算法列车本身就是根据谁点击了过去的类似广告 - 也许男性倾向于比女性多点击多米诺的广告。 Korolova说“由于Facebook观察到的先前用户行为是可能的”但是，如果尽管广告商的表现明确指示，我们仍然观察由于历史点击率（如我们所做的！），我们仍然观察到倾斜的交付（如我们！），这一结果表明Facebook可能会向广告商提供广告商，以与自己的长期业务利益一致的方式，以广泛和多样化的外展。“

等待！在你继续前夕之前，问自己：如果拦截没有完成，你刚才读过的故事会产生的可能性是有多大的新闻网点？考虑媒体世界的看起来像没有截距。谁将举行党的精英对他们宣称的价值负责？如果我们的记者不在节拍上的情况下，我们将仍然隐藏多少封面战，令人遗失的章程，令人难以置信的技术？我们为民主做出的那种报告，但它并不容易，便宜或有利可图。拦截是一个独立的非营利新闻插座。我们没有广告，所以我们依靠我们的会员 - 35,000并计数 - 帮助我们持有强大的帐户。加入很简单，不需要花费很多：您可以成为一个少于3美元或5美元的持续成员。这就是支持你依赖的新闻业所需要的一切。成为会员