Facebook的内容审核努力“严重不足”
在对Facebook内容审核策略的严厉控诉中，一项新的研究指出，该公司将这类工作外包的决定是其努力失败的关键原因。
纽约大学斯特恩商业与人权中心(NYU Stern Center For Business And Human Rights)今天发布了一份报告，呼吁Facebook结束外包做法，并承诺将工作放在内部，这样温和就能获得应有的资源和关注。该报告还呼吁大幅增加版主的数量，并改善工作条件，其中包括为整个工作日受到令人不安内容困扰的版主提供更好的身心健康护理。
这份报告发布之际，Facebook的声誉在多年因其平台上处理虚假信息、假新闻和其他危险内容而引发争议后，声誉继续下降。最近几天，这样的批评愈演愈烈，首席执行官马克·扎克伯格(Mark Zuckerberg)因未能谴责特朗普总统的推文而面临员工的强烈反对，这些推文似乎违反了该平台反对煽动暴力的政策。
虽然Facebook的内容审核面临的问题已经被广泛报道，但这项研究的主要作者保罗·巴雷特(Paul Barrett)表示，他想强调这样一个事实，尽管内容审核是保持平台可用的根本，但该公司已经将这项工作降格为次要角色，主要是在偏远地区雇佣薪酬较低的承包商。
VB Transform 2020 Online-7月15-17日。加入领先的人工智能高管：注册免费直播。
斯特恩中心(Stern Center)副主任巴雷特(Barrett)表示：“对我来说，其中一个启示是意识到(适度)对公司来说是多么重要，因此他们与之保持距离是多么反常。”“第二个惊喜是外包问题与他们所谓的‘高危国家’所经历的问题之间的联系。”
这项研究承认，所有主要的社交媒体平台都面临着同样的内容审核问题。虽然Facebook大约有1.5万名内容版主，但他们中的大多数都为第三方供应商工作。根据这项研究，相比之下，YouTube和谷歌的版主约为1万人，Twitter的版主约为1500人。虽然Facebook还与60个记者组织合作进行事实核查，但发送给这些组织的物品数量远远超过了他们核实大多数说法的能力。
报告说：“这些数字听起来可能很可观，但考虑到这些网站上每天传播的信息量，它们是严重不足的。”
巴雷特决定放大Facebook，作为内容审核出错的案例研究。在一定程度上，他指责该公司对增长的不懈关注导致其无法跟上危险内容和虚假信息的步伐。“你有扩张和成长的战略，”他在接受采访时说。“但在如何确保你的产品不被滥用方面，你真的没有一个平行的策略。”
该报告估计，用户和该公司的人工智能系统每天标记超过300万件物品。该公司报告说，20个网站的版主错误率为10%，这意味着Facebook每天大约有30万个内容审核错误。
为了强调版主在保持社交平台可用方面发挥的核心作用，巴雷特设想了这样的场景：
想象一下，如果没有人删除用户发布的最恶劣的内容，社交媒体网站会是什么样子。很快，Facebook、Twitter和YouTube(谷歌所有)不仅会被垃圾邮件淹没，还会被个人欺凌、新纳粹言论、恐怖分子斩首和儿童性虐待淹没。目睹这种混乱，大多数用户会逃离，广告商紧随其后。主流社交媒体业务将陷入停顿。
然而，报告称，尽管版主对于保持Facebook的可用性至关重要，但他们在很大程度上被边缘化了。由于这些版主距离遥远，该公司经常没有意识到他们在缅甸等地审查的内容的严重性，在缅甸，亲政府力量利用这个平台传播针对少数族裔的种族灭绝的宣传。
从根本上说，这一切都是为了省钱。在发展中国家工作的外包版主的薪酬远远低于硅谷的全职员工，硅谷的办公空间、福利和福利也要昂贵得多。作为研究的一部分，巴雷特采访了一些前内容主持人。
巴雷特说：“虽然在纸面上监督这项活动的第三方供应商提供了相当多与心理健康相关的好处，但考虑到这项活动的潜在创伤有多大，这项服务在实践中一直被描述为不是特别严重。”
在亚洲和非洲的“高风险国家”的内容审核上投入更多的资金，这样就有了使用当地语言的团队。
支持将重点放在有害内容的“流行度”或用户接触此类内容的频率的政府监管。(事实上，扎克伯格已经表达了对这一想法的某种版本的支持。)。
巴雷特说，他知道实施这些措施的成本是一个主要的威慑力量。但他乐观地认为，Facebook至少可以在这个方向上采取一些步骤，部分原因是该公司对冠状病毒的反应。为了打击虚假信息，扎克伯格在内部为一些敏感类别的信息带来了内容审核，至少是暂时的。
该公司还开始认识到，它用来标记攻击性内容的人工智能仍然存在严重的局限性。当Facebook不得不将内容版主送回家，并在隔离期间更多地依赖人工智能时，扎克伯格表示，错误是不可避免的，因为系统经常无法理解上下文。
巴雷特说，归根结底，人才是答案。他认为，该公司开始认识到这一点。
“这是一个非常雄心勃勃的要求，”巴雷特在谈到废除外包的提议时说。“但我的态度是，如果目前的安排不够充分，为什么不干脆去争取，敦促(公司)大举补救问题。我认为马克·扎克伯格(Mark Zuckerberg)不会(打自己的头)然后说，‘哦，天哪，我从来没有想过这一点！’但我确实认为，该公司有可能已经准备好朝这个方向发展。“
