Facebook正在创建新的团队，致力于研究和解决其核心平台和Instagram上潜在的算法种族偏见

Facebook正在组建新的团队，致力于研究和解决其核心平台和Instagram部门潜在的种族偏见问题，这与该公司之前不愿探索其产品如何影响不同的少数族裔群体的做法有所不同。

据知情人士透露，Instagram新成立的“公平和包容团队”将调查美国黑人、西班牙裔和其他少数族裔用户受到该公司算法(包括其机器学习系统)的影响，以及这些影响与白人用户的对比情况。

Instagram的一名代表证实了这一举措，并补充说，Facebook平台也在为其同名应用程序创建一个类似的产品团队。

Instagram产品负责人维沙尔·沙阿(Vishal Shah)表示：“种族正义运动对我们公司来说是一个真正重要的时刻。”“我们的制度和政策中的任何偏见，都有悖于为每个人提供一个表达自我的平台。”

此举正值广告商持续抵制这家社交媒体巨头如何监管其平台，以及员工因其处理种族问题的方式而发生骚乱之际。

对于科技公司和政府来说，如何检测和纠正算法偏差都是一个大问题，因为研究发现，从量刑指导方针到企业招聘，软件如何推动决策存在歧视。

潜在的算法偏差问题在Facebook内部有时一直存在争议。据知情人士透露，去年，公司官员禁止员工在未经所谓的M-Team许可的情况下研究与其平台相关的不同种族影响。M-Team是一个高级高管团体，其中包括首席执行长扎克伯格(Mark Zuckerberg)和首席运营官谢丽尔·桑德伯格(Sheryl Sandberg)。

据一些知情人士称，大约在那个时候，随着Instagram为暂停或删除账户设定新的门槛，一项内部分析发现，根据拟议的改革，活动表明自己是黑人的用户被禁用账户的可能性比其他用户高出50%。知情人士说，Instagram官员调整了参数以减少潜在影响，但禁止对这些阈值进行进一步研究。

Facebook没有明确收集用户的种族数据。这项分析使用了一个被称为“多元文化亲和力”的种族代理-在这种情况下是非裔美国人种族亲和力集群-基于人们在平台上参与的内容。公司可以针对这些亲和力群体投放广告，但有一些限制。

Instagram发言人斯蒂芬妮·奥特韦(Stephanie Otway)说，内部分析存在缺陷，因为该公司现有的数据没有准确反映种族。

Facebook在一份声明中表示，该公司一直担心使用多元文化亲和力作为种族的代理是不可靠的，并要求与种族相关的研究获得高层批准，以确保这项研究是负责任的。作为研究少数族裔用户体验的新团队的一部分，Facebook正在与外部专家和民权团体讨论如何可靠和一致地研究种族问题。

“现在还为时过早；我们计划在接下来的几个月里分享更多关于这项工作的细节，”奥特威说。

新的Instagram团队之前没有报道，但目前还没有领导人。该公司表示，Facebook团队将被称为包容性产品团队，并将就种族问题与黑人用户和专家委员会进行磋商。该公司表示，新的团队还将咨询其他产品团队，并可能设计旨在支持该平台少数用户的功能。

Facebook委托并于本月发布的一项民权审计称赞该公司承认风险，并在这个问题上与外部专家接触。报告没有评估该公司现有算法中的任何潜在偏见，指出审计师没有获得内部研究和模型的访问权限。

Facebook此举的背景是，自5月25日黑人乔治·弗洛伊德(George Floyd)被杀以来，全球正在就种族问题展开辩论。弗洛伊德是一名警察，在明尼阿波利斯一名警察将他的膝盖按在弗洛伊德的脖子上近九分钟后被杀。弗洛伊德的死在世界范围内引发了针对种族主义的抗议活动，几乎涉及社会的方方面面，包括科技行业。

Facebook过去曾因处理种族问题而受到批评。学术研究发现，Facebook的算法和广告拍卖系统将不成比例地将黑人用户排除在某些住房或招聘广告之外-即使广告商没有寻求歧视。

美国住房和城市发展部(Department Of Housing And Urban Development)去年指责Facebook允许房地产公司根据种族、宗教和其他因素瞄准潜在客户，这是非法的歧视。这起诉讼正在审理中，Facebook表示正在与该机构合作，以解决其担忧。

近几个月来，Facebook面临越来越大的内部和外部压力，要求其正视其对少数族裔社区的影响，以及最高层领导人缺乏种族多样性的问题。

一个主要的引爆点出现在5月下旬，当时扎克伯格和其他高级官员拒绝删除唐纳德·特朗普(Donald Trump)总统称抗议者为暴徒的帖子，并警告说：“当抢劫开始时，枪击就开始了。”

许多内部人士和民权领袖认为这篇帖子是对暴力的呼吁，是对Facebook政策的违反。但Facebook官员拒绝将其删除，科技新闻网站Vox报道的一份员工市政厅记录显示，扎克伯格后来告诉员工，这句话“没有被解读为义务警员支持者自己伸张正义的历史”。

Facebook对特朗普帖子的处理罕见地引发了员工的公开反对，其中一些人在竞争对手社交媒体网站Twitter上表达了他们的担忧，另一些人选择在6月1日举行“虚拟罢工”。

然后，在6月下旬，包括全国有色人种协进会(NAACP)和反诽谤联盟(Anti-Defamation League)在内的民权活动家开始组织一场名为#StopHateForProfit for the Month of 7月份的Facebook广告抵制活动。本月，几家主要广告商已经停止或削减了在Facebook上的支出，包括联合利华(Unilever PLC)、星巴克福特汽车(Starbucks Ford Motor Verizon Communications)和许多小型营销者。华尔街日报稍早报导称，华特迪士尼也削减了在Facebook上的支出。

Facebook宣布承诺在五年内将黑人和少数族裔在其领导层中的代表性提高30%。该公司还计划到2023年将其黑人和西班牙裔员工基础翻一番。

Facebook 2020年的多样性报告显示，近4%的美国员工和3.4%的公司领导人是黑人。

亚裔占Facebook员工总数的44.4%，占领导层的25.4%，而拉美裔占领导层的6.3%和4.3%。