最近几周，有四名处理仇恨或暴力言论的Facebook关键员工离职，他们呼吁告别领导层，因为他们在告别岗位上缺乏行动
星期三，一位Facebook数据科学家在任职两年后离开了这家社交网络公司，给同事们留下了告别信。作为致力于“暴力与煽动”的团队的一部分，他们处理了Facebook上一些最糟糕的内容，他们为在公司所做的工作感到自豪。
该员工在传统告别会的“徽章”中写道：“由于有太多内部力量支持仇恨和暴力内容的产生，在Facebook上停止仇恨和暴力的任务开始变得比现在更难怒。”任何离职的Facebook员工的注意事项。 “这也使在这里工作感到尴尬。”
即将离任的员工拒绝与BuzzFeed新闻交谈，但要求他们不要因为害怕虐待和报复而被任命。
数据科学家在其内部帖子中表示，使用内部Facebook数据和预测来支持他们的观点，每1000条内容中大约有1条（即每天发布到社交网络的50亿条内容中的500万条中的500万条）违反了公司的仇恨言论。他们使用公司自己的数据估计，更令人惊讶的是，即使有人工智能和第三方主持人，该公司也“删除了发布到Facebook的所有仇恨言论中不到5％”。
徽章张贴中表达的观点几乎不是新的。自五月以来，许多Facebook员工辞职，称他们为该公司对世界的影响感到羞耻，或者担心该公司在减轻仇恨和错误信息方面的不作为导致政治干预，分裂和流血。其他人被解雇，因为他们记录了对屡次散布虚假信息的有影响力的保守页面进行优先处理的实例。
但是在过去的几周中，至少有四人参与了重要的诚信工作，这些工作涉及减少暴力和煽动行为，制定减少仇恨言论的政策以及追踪违反Facebook规定的内容。在BuzzFeed新闻获得的告别帖子中，每个人都对该公司处理美国政治内容和仇恨言论的方法表示担忧，并呼吁Facebook领导层不愿主动减少仇恨，煽动和虚假内容。
“在过去的四年中，我们进行了大规模的诚信投资，其中包括大力发展致力于维护平台安全的团队，提高我们发现和消除仇恨言论的能力以及保护2020年美国大选的能力，” Facebook发言人乔·奥斯本说。 ＆＃34;我们为这项工作感到自豪，并将继续投资并在不断学习的基础上继续发展。”
您在Facebook或其他技术公司工作吗？我们很乐意听取您的意见。可以通过ryan.mac @ buzzfeed.com，craig.silverman @ buzzfeed.com或通过我们的提示渠道之一进行访问。
离职之际，随着2020年美国大选之后Facebook的“选举诚信”工作正在发生重大变化。该信息公司最近报道说，该公司的公民诚信小组被指控“协助保护民主进程”。并减少病毒错误信息和虚假帐户的传播。 -最近被解散为独立单位。该报告还报道说，公司领导层拒绝了公司诚信团队的一项提议，以阻止诸如唐纳德·特朗普总统之类的知名政治账户散布虚假和误导性选举内容。
当Facebook重组其诚信团队时，一些离职的员工表示，他们对公司解决甚至解决其问题没有信心。尽管Facebook公开宣称其人工智能措施在用户举报之前捕获了许多令人反感的内容，但有很多例子表明该系统失败了，从而导致灾难性的现实生活后果，例如Facebook组织的民兵事件，与枪击死亡相吻合。威斯康星州基诺沙的两名抗议者。
“人工智能不会拯救我们，”公民诚信产品设计师尼克·因祖基（Nick Inzucchi）上周辞职。 “今天指导我们大多数诚信工作的隐性愿景是，由[CEO]马克·扎克伯格（Mark Zuckerberg）拥有的完美，公正，全知的机器人监督所有人类的话语。这显然是一种反乌托邦，但根深蒂固的我们几乎再也没有注意到它。”
离任的数据科学家也表达了类似的担忧。他们写道：“我们当前的自动化方法无法解决我们的大多数完整性问题。”
他们的帖子还用数据论证了Facebook“非常明显的兴趣是支持那些正在煽动我们试图扑灭的大火的演员”，这使人们无法开展工作。 “当任何人都清楚我们正在支持仇恨言论时，局外人应该如何相信我们关心摆脱仇恨言论？”他们问过。
数据科学家使用来自Facebook工具的“仇恨诱饵仪表板”的数据，该工具可以跟踪导致仇恨互动的组和页面中的内容，从而在美国10个页面中列出了“可能违反仇恨言论的最大集中内容”。过去14天。所有页面都是与保守派媒体或人物相关的页面，包括布赖特巴特新闻，福克斯新闻，每日来电者，唐纳德·特朗普的竞选活动和主要帐户以及本·夏皮罗。他们还分享了最近在Breitbart News上发表的有关南希·佩洛西（Nancy Pelosi）对跨性别运动员的支持的可恶评论的样本。
他们写道：“对于布雷特巴特或任何其他顶级仇恨诱饵生产商来说，这是完全普通的帖子，”他们指的是呼吁对跨性别者进行殴打或杀害的评论。
他们写道，“他们每天都创造数十或数百个帖子，每个帖子都引发无数可憎的恶毒评论，为此我们给予了极大的奖励，”
数据科学家关于优先对待美国保守派页面和声音的评论遵循了其他内部担忧和证据。去年11月，Facebook政策组织的一名即将离任的成员写道：“向右倾斜的美国帐户比其他人更有可能从事仇恨言论和煽动暴力行为，而且更有可能散布错误信息。”该人拒绝与BuzzFeed新闻交谈，并因为担心在线滥用和报复而要求不公开其名字。
他们写道：“在一定时期内，非常保守的用户和保守的用户在平台上共享的错误信息是中度，自由或非常自由的用户的七倍以上。”他们与最近一项研究的新闻文章相链接，以支持他们的主张。
超过五年的Facebook核心数据科学家汤姆•坎宁安（Tom Cunningham）也于本周辞职。他在告别岗位上回应了这些担忧。
他写道：“我认为，至少在西方国家，Facebook可能会对政治言论的质量产生负面影响。”坎宁安（Cunningham）描述了该公司进行的一项随机试验，发现“向人们支付停止使用Facebook一个月的费用，会使党派的负面情绪下降了0.1个（标准差）。”
坎宁安还说，他已经看到“许多衡量新闻提要内容客观质量的建议被稀释或杀害，因为……它们在整个美国政治领域产生了不成比例的影响，通常会更加损害保守的内容。”除此之外，他还补充说，Facebook的内容政策决定“通常受到政治考虑因素的影响”，以确保公司“避免与强大的政治参与者对抗。”
即将离任的数据科学家表示，他们团队的渐进式变化可以在一定程度上改善局面，但鉴于Facebook的规模，它不会产生任何重大影响。例如，他们列举了一位同事，该同事一天能够在美国发现并阻止500,000次英语仇恨内容的观看。但他们指出，特朗普臭名昭著的“当抢劫开始时，枪击事件就开始了”，这是Facebook不愿对仇恨言论或暴力煽动的主要提供者采取行动而使团队胜利黯然失色的一个例子。
他们写道：“特朗普的“抢劫与射击”职位被视为比我们一天中阻止的意见总数高出数个数量级。”那些抗议警察杀害乔治·弗洛伊德的人会被枪杀。 “从那个职位到随后几个月抗议活动中发生的实际枪击事件并不难得出一条直线。”
尽管遭到了尖锐的批评，但这位数据科学家称赞他们所说的是对Facebook“实时监控”的一种改进，该技术显然能够防止“一些最终可能与Kenosha类似的事件”。他们说，该公司采取了数十种干预措施，他们认为导致选举日及之后的暴力和煽动举报数量低于预期。就背景而言，数据科学家分享了一张图表，显示用户在选举后的几天内有关暴力和煽动的报告达到了约50,000个峰值，而在警方杀害乔治·弗洛伊德（George Floyd）后抗议高峰期间的头一天，发生的事件不止一次125,000个报告。
BuzzFeed News先前报道说，存在“暴力和煽动趋势”指标，在选举日之后的五天内，暴力行为和煽动趋势的指标上升了45％，原因是有关最近总统选举中选票总数的错误信息传播。
数据科学家还向Facebook提供了离职建议：“雇用更多人”。他们注意到公司有能力负担得起，因此建议将诚信组织中的员工人数增加一倍。他们说，这将允许该公司从专注于以美国和英语为中心的内容中脱颖而出，这是另一位前数据科学家的担忧。
四个离职和他们的徽章张贴引发了本周在Facebook内部留言板上的讨论，员工们担心他们可能会开始更广泛的趋势。 “诚信领导和FB INC领导在多大程度上听到并回应了这些批评？”一个人发布到了一个名为“ Let’s Fix Facebook”的内部小组中。
BuzzFeed News上个月首次对来自49,000多名Facebook员工的内部调查数据显示，只有51％的受访者表示他们认为Facebook对世界产生了积极影响。关于公司领导层的问题，只有56％的员工给出了满意的答复。
星期四，扎克伯格详细介绍了该公司的一些营业额和随后的雇用情况。在公司范围内的一次会议上，他说他为员工感到骄傲。能够适应在家工作的新常态，特别是对于那些最近加入但还没有看到Facebook办公室内部的人们。
我认为我们现在有20,000名员工，他们因为今年加入而从未来过我们的办公室，他对公司的50,000多名员工说。这位Facebook负责人还表示，他希望一些人明年开始回到办公室，尽管该公司不会将COVID-19疫苗强制用于回国工人。
随着Facebook内部士气暴跌，领导者越来越关注公司内部论坛上发生的员工讨论。曾经以开放文化着称的Facebook和CEO扎克伯格（Zuckerberg）一直盯着48位司法部长和联邦贸易委员会（Federal Trade Commission）提出的具有里程碑意义的反托拉斯诉讼，本周多次建议员工避免讨论与正在进行的诉讼有关的任何事情，因为有可能发现法律。
员工还必须参加在线“竞争培训”课程，以了解“竞争合规政策”。该培训指导正在讨论“复杂问题”的人员面对面或通过视频会议进行会面，同时提醒他们其他人可以访问其通讯。
Facebook迅速将即将离任的数据科学家的帖子挡在外面。内部主持人要求他们最初在Google文档中发表文章，以创建“额外的安全保护”并防止其进入该新闻媒体，然后要求他们将帖子从Google的工具中删除。
主持人写给数据科学家的信中说：“您的徽章帖子刚刚被标记为包含机密信息。” ●
