Facebook忽略了Instagram自动账户删除中关于种族偏见的研究，告诉员工停止追求种族偏见；Facebook表示方法存在缺陷
获取突发新闻警报和特别报道。重要的新闻和故事会在工作日早上发布。
订阅。
2019年年中，Facebook的研究人员开始研究为Instagram用来删除欺凌和其他违规行为账户的自动化系统提出的一套新规则。
他们的发现令人震惊。据两名现任员工和一名前员工称，在Facebook旗下的美国Instagram上，应用程序上的活动表明自己是黑人的用户，在新规则下被审核系统自动禁用账户的可能性，比那些活动表明自己是白人的用户高出约50%。由于无权与媒体交谈，这两人都要求匿名。
员工们表示，Facebook和Instagram用户的采访呼应了这一发现，他们表示，他们认为这些平台的温和做法是歧视性的。
研究人员将他们的发现带给了他们的上级，希望这会促使经理们平息这些变化。取而代之的是，他们被告知不要与同事分享他们的发现，也不要对Instagram自动账户删除系统中的种族偏见进行任何进一步的研究。Instagram最终实施了略有不同的新规则版本，但拒绝让研究人员测试新版本。
这是一个让希望减少平台上种族偏见的员工感到沮丧的事件，但他们表示，这一事件并不让他们感到惊讶。据八名现任和前任员工称，Facebook管理层一再忽视和压制显示该平台删除内容方式存在种族偏见的内部研究。由于讨论Facebook内部业务，这些员工都要求匿名。
这些员工说，管理层在这个问题上缺乏行动，导致Facebook的一些员工越来越觉得，包括首席执行官马克·扎克伯格(Mark Zuckerberg)、首席运营官谢丽尔·桑德伯格(Sheryl Sandberg)、负责全球事务和沟通的副总裁尼克·克莱格(Nick Clegg)和负责全球公共政策的副总裁乔尔·卡普兰(Joel Kaplan)在内的少数高管正在做出与他们下面的主题专家和研究人员的建议背道而驰的决定，特别是在仇恨言论、暴力和种族偏见方面。
Facebook没有否认一些研究人员被告知停止探索种族偏见，但表示这是因为使用的方法有缺陷。
Facebook负责增长和分析的副总裁亚历克斯·舒尔茨(Alex Schultz)表示，对种族的研究和分析对Facebook很重要，但这是一个“非常繁重的话题”，因此需要在整个公司范围内以严格、标准化的方式进行。
“会有人对我们采取行动的速度感到不安，”他说，并补充说，在理解仇恨言论和算法偏见方面，“我们已经大幅增加了投资”。
Facebook发言人卡罗琳·格兰维尔(Carolyn Glanville)补充说：“我们正在积极调查如何与其他公司合作，负责任地衡量和分析种族和民族界限上的互联网产品。”她指出，该公司去年成立了一个名为负责任人工智能(Responsible AI)的专家团队，专注于与Facebook产品中部署人工智能相关的“理解公平和包容性问题”。
Facebook紧张的一个关键来源来自其自动化系统调节仇恨言论的方式。
Facebook的政策禁止基于“受保护的特征”(包括种族、民族、宗教、性别或性取向)攻击人们的仇恨言论。它依靠用户报告和自动内容审核工具来识别和删除此演讲。
为了保持中立，该公司的仇恨言论政策对待对白人或男性的攻击，与对待对黑人或女性的评论完全一样，员工们表示，这种做法没有考虑到种族主义和压迫的历史背景。
“世界对待黑人的方式与对待白人的方式不同，”一名员工说。“如果我们对每个人都一视同仁，我们已经做出了错误的选择。”
员工们表示，这一政策意味着，该公司的自动内容审核工具主动检测到的针对白人的仇恨言论远远多于针对黑人的仇恨言论，即使针对黑人的仇恨言论被广泛认为更具攻击性--这一假设得到了学者和公司自己的内部研究的支持。
将关于快速变化的媒体和技术世界的突发新闻和内部分析直接发送到您的收件箱。
该公司进行的内部研究显示，来自美国政治光谱双方的Facebook用户认为，对包括黑人和西语裔在内的传统上被边缘化的群体的攻击，比对包括男性和白人在内的传统上没有被边缘化的群体的攻击更令人不安-即使使用的是相同类型的语言。因此，“白人是垃圾”通常被认为没有“黑人是人渣”那么无礼，但Facebook的政策对他们一视同仁。在Facebook政策会议上提交的数据显示，用户对针对女性的攻击比对男性的攻击更感到不安，其中包括2018年秋季《名利场》(Vanity Fair)参加的一次会议。
这种不公平反映在被报告的仇恨言论的水平上，而不是自动删除的水平上。根据2019年7月内部发布并泄露给NBC新闻的一份图表，Facebook主动删除针对白人的仇恨言论的比例高于用户报告的比例，这表明用户认为举报不够冒犯，但Facebook还是删除了它。相比之下，这些工具删除的针对边缘群体(包括黑人、犹太人和变性人用户)的仇恨言论的比例低于用户报告的比例，这表明这些攻击被认为是攻击性的，但Facebook的自动化工具没有检测到它们。
将图表发布到内部版Facebook Workplace的员工表示，调查结果表明，Facebook的主动工具“不成比例地保护了白人男性”。
Facebook发言人Ruchika Budhraja周三表示，正如2019年2月“名利场”(Vanity Fair)报道的那样，自2018年初以来，该公司一直在考虑区别对待不同的群体，但“很难解析出谁在全球范围内享有特权，谁被边缘化”，因此公司没有改变政策。
Facebook现任和前任员工详细描述的这些事件，增加了Facebook批评者和公司内部员工对其平台上有关种族偏见指控的认真程度的日益密切的审视。该公司正处于一场主要的广告商抵制活动中，这场抵制在一定程度上是由社会正义团体引发的，这些团体认为，该公司在保护用户免受歧视方面做得不够。
与此同时，这家社交媒体巨头也受到共和党政客的抨击，他们说它有自由派的倾向，不公平地审查保守派的声音。
扎克伯格试图坚持该平台在政治上是中立的，是言论自由的倡导者，同时也拒绝做出重大改变。周二，“华尔街日报”(Wall Street Journal)报道称，Facebook正在创建新的团队，在其平台上研究种族偏见。
已经在这个主题上工作的Facebook员工说，多年来，公司无视他们的工作，经常指示他们停止研究。
大约在Instagram事件发生的同时，Facebook和Instagram上探索种族和种族偏见的几项研究被总结出来，并以一份文件的形式提交给扎克伯格和他的核心圈子，也就是众所周知的M-Team。
据两名现任员工和一名前员工透露，该团队的回应是指示员工停止所有关于种族和民族的研究，不要与公司其他人分享他们的任何发现。
舒尔茨当时说他是M团队的一员，他没有回忆起具体的沟通，但表示一些研究出于伦理和方法论方面的考虑而被叫停。
两名现任员工和三名前任员工表示，在内部研究审查过程中，在该平台上研究种族和社会偏见或压迫的其他尝试被阻止。据四位消息人士透露，研究人员被告知不允许向用户询问关于他们的种族身份的问题，其中许多人对社会偏见进行了学术研究。
在未经许可的情况下，研究人员--包括Instagram研究的负责人--在未经许可的情况下，依赖一种名为“多元文化亲和力”的种族指标，根据用户在美国对非洲裔、亚裔或西语裔美国人的“亲和力”，出于广告目的对用户进行分类。
虽然现任和前任员工承认这不是种族的完美代表，但他们几乎没有其他选择来试图理解平台上的种族偏见。他们还对这样一种想法感到沮丧，即该公司出于广告目的，而不是出于研究目的，乐于根据“种族亲和力”来描述用户。
Glanville说：“领导层想要一种标准和一致的方法，以避免有偏见、不正确和不负责任的工作，并为我们设立了一个项目来做到这一点而感到自豪。”
Glanville说，在ProPublica于2016年进行调查后，Facebook禁止广告商基于当时所称的“种族亲和力”投放房屋、就业和信用广告，以“防止潜在的广告歧视”。
这并不是Facebook高管第一次被指责忽视了突显该平台问题的内部研究。据“华尔街日报”5月报道，Facebook的一个团队在2018年发表了一份演示文稿，显示Facebook的算法通过向用户展示越来越分裂的内容，正在将人们推向四分五裂的境地。但包括扎克伯格在内的高级管理人员搁置了这项研究。
Facebook对这篇文章的回应是，它引用了一项研究，以了解我们的平台对社会的影响，从而使我们继续改进。
Facebook是否考虑到了这项研究，已经成为该公司内部留言板上讨论的话题。一位工程师分享了显示Facebook节制做法倾斜的数据，并对该公司提出了尖锐的批评。
“这不是一个新问题。这种情况已经持续多年了。根据NBC新闻分享的公司内部留言板上的一篇帖子截图，这位工程师写道：“人们比我更聪明、更努力、更耐心、更专业，比我更努力地解决这个问题，结果却因为目光短浅地专注于糟糕的指标而被关闭。”“我看到人们被逼疯了，因为领导层忽视了他们，或者干脆关闭了他们，一次又一次地让我们在这条道路上加倍努力。”
根据泄露的帖子和两名现任员工的说法，这名工程师在同一天离开了公司，原因是领导层在这个问题上缺乏行动，并指责扎克伯格在公司处理仇恨言论的问题上发表了误导性的声明。
他写道：“几个月来，我一直在与自己搏斗，试图说服自己，这份工作绝对是好的，一切都是值得的--但我做不到。”“问题太突出了，领导层的失败太严重了。我睡不着太多觉，想知道有多少人在糟糕的一天里，我让他们与朋友发泄的机会变得更少，或者我在听从命令的过程中造成了多少微小的不公正，这让我受到了更多的伤害。“
Facebook说：“我们进行这项研究，并继续寻找进行这项研究和类似研究的最佳方式，这仅仅是因为我们正在努力理解。”
这些爆料呼应了Facebook在2018年委托进行的一项外部民权审计的结果，该审计于本月公布。审计报告显示，该公司在保护用户免受歧视、虚假和煽动暴力方面做得不够。
全国有色人种协进会(NAACP)主席德里克·约翰逊(Derrick Johnson)说：“我认为他们不理解民权。”在审计报告公布的那一周，他是与扎克伯格和桑德伯格会面的民权领袖之一。“他们对保护人民的需要视而不见，不幸的是，他们经常将与公民权利相关的问题与党派偏见混为一谈。战胜仇恨不是党派问题。“
