资料来源:扎克伯格为降低亚历克斯·琼斯(Alex Jones)2019年禁令的严重性而进行的个人干预减慢了Facebook处理危险内容的努力

2021-02-22 03:23:32

2019年4月,Facebook正在准备禁止互联网最臭名昭着的误导和仇恨的蔓延,Infowars创始人Alex Jones。然后首席执行官马克扎克伯格亲自干预。

琼斯获得了臭名昭着的耻辱,声称2012年Sandy Hook小学大屠杀是一个“巨大的恶作剧”,2018年乐园射击的青少年幸存者是“危机演员”。但Facebook发现,他也无情地对抗各种团体的仇恨,包括穆斯林和跨越人。这种行为有资格从公司下的社交网络驱逐和#39;"危险个人和组织,"这需要Facebook还删除对他们表示“赞美或支持”的任何内容。

但是,根据熟悉该决定的人说,Zuckerberg没有考虑讨厌的创始人是一个讨厌的人物,所以他向自己的内部专家推翻了一个巨大的漏洞:Facebook将永久禁止琼斯和他的公司 - 但不会触及从其他Facebook用户的赞美和支持的职位。这意味着琼斯的追随者可以继续在世界上最大的社交网络中分享他的谎言。

"马克个人不喜欢惩罚,所以他改变了规则,“一位前政策员工告诉Buzzfeed新闻,并指出原始规则已经使用并代表了多个团队之间的未计入工作时间的工作时间和专家。

“这是我第一次遇到创建一个新的政策,以适应扎克伯格想要的东西。当我们建立一个政策时,它有点低位化,它经历了严格的周期。喜欢,他妈的是什么?“第二届前政策雇员,就像第一个一样,被要求不被命名,所以他们可以谈论内部事项。

“马克呼吁采取更细微的政策和执法战略,”Facebook发言人Andy Stone据说Alex Jones决定,这也影响了其他极端主义人物的禁令。

Zuckerberg的“更细微的政策”掀起了级联效应,这两个前雇员说,这延迟了公司努力去除誓言守护者等右翼武装组织,这些组织涉及1月6日在美国国会大学上的第6次起义。也是Facebook愿意改变其规则来安抚美国的右翼并避免政治急诊的案例研究。

BuzzFeed新闻获得的内部文件以及对14名现任和前任员工的采访显示,在全球公共政策副总裁乔尔·卡普兰(Joel Kaplan)和扎克伯格的异想天开的指导下,公司的政策团队如何发挥巨大的影响力,同时又阻碍了内容审核决策,阻碍产品的发​​展。推出,并代表违反Facebook规定的受欢迎的保守派人士进行干预。

去年12月,一位前核心数据科学家撰写了一份备忘录,标题为“对内容政策的政治影响”。在BuzzFeed新闻中看到,该备忘录指出,卡普兰的政策小组“定期保护强大的选民”,并列举了几个示例,包括:取消右翼页面上错误信息的处罚,减少旨在提高News Feed中内容质量的尝试以及暂时阻止提案在美国大选之前停止推荐政治团体。

自从11月的投票以来,至少有六名Facebook员工辞职,辞去了领导层未能就错误信息和仇恨言论留意自己的专家的告辞。即将离任的四名员工明确指出该政策组织是他们工作的障碍,并要求进行重组,以便负责监督游说和政府关系的公共政策小组以及负责制定和执行平台规则的内容政策小组不会两者兼而有之向卡普兰报告。

Facebook拒绝让Kaplan或其他高管接受采访。公司发言人斯通(Stone)消除了对副总裁影响力的担忧。

他说:“对一个人在Facebook上的影响所产生的阴谋论进行再造并不能使它们成真,”他说。 “现实是,Facebook的重大决策是由来自不同团队,在不同领域具有不同观点和专业知识的人员提供的意见。提出其他建议是荒谬的。”

一位致力于Facebook努力保护民主进程并遏制激进主义的诚信研究人员表示,该公司由于出于政治反弹的考虑而拒绝产品变更,从而对用户造成了直接伤害。

他们在BuzzFeed News看到的内部说明中写道:“出于对潜在的公众和政策利益相关者反应的恐惧,我们有意识地使用户面临诚信风险。”他们在八月辞职。

那些受琼斯言辞影响最大的人也注意到了。莱尼·波兹纳(Lenny Pozner)的6岁儿子诺亚(Noah)是桑迪·胡克(Sandy Hook)枪击案的最小受害者。他说,在HONR Network(他的大规模伤亡事件幸存者组织)2018年的来信中,该公司已承诺将在处理仇恨和恶作剧方面做得更好。但是,Facebook仍然无法删除有害内容。

“在某个时刻,”波兹纳告诉BuzzFeed新闻,“扎克伯格必须为自己的角色负责,以使自己的平台武器化,并确保将可笑和危险与事实同等重要。”

马克·扎克伯格(Mark Zuckerberg)和乔尔·卡普兰(Joel Kaplan)在2019年9月19日在华盛顿特区的国会山办公室与参议员约翰·科宁(R-TX)离开会面后聊天。

现任和前任雇员表示,卡普兰(Kaplan)与扎克伯格(Zuckerberg)的密切关系使首席执行官在制定高调的内容政策实施决策时,更加重视政治。卡普兰过去四年来努力向特朗普白宫求婚-从他广泛宣传的对最高法院提名人布雷特·卡瓦诺(Brett Kavanaugh)的支持到他在Facebook政策决定中代表右翼有影响力的人士进行的干预-也使他成为民权组织的目标和民主党议员。

2020年6月,三名民主党参议员在信中询问卡普兰“在Facebook决定关闭并取消对遏制极端主义和两极分化活动的内部努力的优先考虑中起什么作用”。参议员伊丽莎白·沃伦(Elizabeth Warren)呼吁他监督游说活动,该活动花费了数百万美元来影响政客。随着新的总统政府就职以及一系列持续的反托拉斯诉讼,扎克伯格现在必须努力应对这样一个事实,即他的最高政治顾问可能不再是华盛顿特区的资产,而是潜在的债务。

“我认为DC中的每个人都讨厌Facebook。他们烧毁了每座桥梁。”美国经济自由项目执行董事,乔·拜登总统过渡小组前成员萨拉·米勒说。她说,民主党人对该平台对仇恨言论和错误信息的容忍度感到愤慨,而“拉扯特朗普离开平台”使共和党人对该公司充满了生气。

米勒补充说:“ Facebook可以大肆宣扬整个政治领域。”

卡普兰(Kaplan)在2011年加入Facebook领导其DC业务时,他拥有该公司寻求美国权利所需的联系和血统书。他曾担任保守派最高法院法官安东尼·斯卡利亚(Antonin Scalia)的书记员,在2000年佛罗里达州总统大选争议期间参加布鲁克斯兄弟骚乱后,曾担任乔治·W·布什总统下的白宫副参谋长。在2003年的参议院确认听证会上,他在管理和预算办公室任职时,有人质疑卡普兰在这次活动中的角色,该活动试图在佛罗里达州重新计票时停止计票。

尽管他最初在Facebook上保持低调的公众形象,但Kaplan(首席运营官谢丽尔·桑德伯格的哈佛同学和前男友)因了解共和党决策者和保守的美国人而受到扎克伯格的重视,他们认为首席执行官认为自由派领导团队和雇员所代表的人数不足根据。

到2014年,他被提升为全球公共政策副总裁。卡普兰(Kaplan)担任该职位时,负责监督该公司在全球的政府关系以及其内容政策团队。这种安排引起了人们的关注,因为其他公司(包括Google和Twitter)通常将公共政策和游说工作与创建和执行内容规则的团队分开。

唐纳德·特朗普的候选人资格和选举卡普兰做出更有价值的公司。他曾担任扎克伯格的政策顾问,帮助Facebook摆脱谎言,憎恨这位前总统在平台上的变态以及公众对此的愤怒反应。 2015年12月,特朗普在Facebook上发布一条帖子,呼吁穆斯林“全面彻底关闭”进入美国的穆斯林-卡普兰和其他高管中的第一个迫使该公司努力应对当时候选人的种族主义言论,有时甚至是暴力言论。建议Facebook的首席执行官什么都不做。

据《纽约时报》报道,卡普兰说:“不要戳熊。”他认为,对特朗普的帐户采取行动将引起右翼的强烈反对,并指责该网站限制了言论自由。在随后的五年中,扎克伯格经常会以各种形式重复此论点。

据现任和前任雇员称,在那段时间里,卡普兰很少在Facebook内部留言板上公开交流或在公司范围内的会议上发表讲话。然而,当他这样做时,他的外表备受争议。

您在Facebook或其他技术公司工作吗?我们希望收到您的来信。可以访问ryan.mac @ buzzfeed.com,craig.silverman @ buzzfeed.com或通过我们的提示行渠道之一。

在当时的首席安全官亚历克斯·斯塔莫斯(Alex Stamos)领导的Facebook小组发现俄罗斯在2016年美国总统大选期间及之后干涉该平台的证据后,卡普兰成为领导小组的成员,该小组反对公开披露克里姆林宫的影响力活动的全部范围。当公司最终在2017年10月公开发布有关它的更多信息时,是Kaplan而非Stamos在内部市政厅回答了员工的问题。

斯塔莫斯说:“他们本来可以派我的。”他后来因与俄罗斯干涉有关的分歧而离开了公司。 “向[VP]展示[俄罗斯战役的证据]的人是我。”

然而,正是卡普兰(Kaplan)出席卡瓦诺(Kavanaugh)2018年9月的参议院确认听证会,才使他成为全国关注的焦点。坐在被提名人的身后,他在活动的电视转播中可见。员工大怒;他们认为卡普兰的出席使Facebook看起来像是在支持被提名人,同时驳回了针对他的性侵犯指控。

乔尔·卡普兰(Joel Kaplan)于2018年9月27日在华盛顿特区举行的参议院司法委员会确认听证会上与最高法院提名候选人布雷特·卡瓦诺(Brett Kavanaugh)的家人,朋友和支持者坐在一起。

卡普兰随后通过电视会议在公司范围内的会议上解决了这一事件,愤怒的工人感到他在相机上的出现是故意的,使他提出了疑问。但是在他自己的团队内部,他面临着一些最激烈的批评。在那个秋天的Facebook公共政策团队会议上,一位长期经理含泪地指责他对同性攻击幸存者缺乏同情。

“认识一个人并不重要;两名参加会议的人士说,这并不意味着他们没有按照别人所说的去做。随后,她写了一篇公共博客文章,讲述了自己遭受性侵犯的经历,并于一年后离开了公司。

这些都没有改变卡普兰在扎克伯格的地位。该首席执行官于2019年9月去了华盛顿特区,并在一次旅行中被卡普兰(Kaplan)牧养,其中包括与特朗普会晤。卡普兰对特朗普白宫保持友好,特朗普白宫曾一度认为他经营管理和预算办公室。

今年五月,当扎克伯格决定不碰特朗普在乔治·弗洛伊德(George Floyd)抗议期间的“抢劫开始,枪击事件开始”的煽动时,工人们变得愤怒了。在随后的公司范围内的会议上,来自员工的最强烈的疑问之一直接叫出Kaplan。问题被问到:“许多人认为乔尔·卡普兰(Joel Kaplan)对我们的决定有太多权力。”要求副总统解释他的角色和价值观。

扎克伯格似乎对这个问题感到不满,并质疑任何人都可能影响公司做出决定的“严格”过程的观点。首席执行官认为,多样性意味着要考虑所有政治观点。

扎克伯格说:“这基本上是根据乔尔是共和党人这一事实来询问乔尔是可以担任这个角色还是可以扮演这个角色……我不得不说,我觉得这条疑问线非常令人困扰。”说,无视这个问题。 “如果我们想切实做好为人民服务的工作,(我们必须)考虑到对不同事物有不同的看法。”

Facebook员工表示,扎克伯格仍然坚决支持卡普兰,但内部压力正在逐渐减少,以减少公共政策团队的影响力。 Facebook公民诚信团队负责人Samidh Chakrabarti在6月的一份内部说明中写道,同事“感到压力,以确保他们的建议与决策者的利益保持一致”,哀叹在履行团队职责:制止滥用行为时,在平衡这些利益方面存在困难。和选举干扰平台。据《新闻》报道,选举后不久,公民诚信小组解散。

Chakrabarti说:“他们将此归因于组织激励,即内容政策和公共政策团队具有共同的根基。” “只要是这种情况,我们将过早将监管利益置于社区保护之上。”

现在担任斯坦福互联网天文台负责人的斯塔莫斯说,政策小组的结构将始终以当前形式提出问题。

他说:“您不希望平台政策制定者向负责使政府中的人们感到高兴的人汇报。” “乔尔来自布什白宫,政府关系在言论要求上没有中立立场。”

8月,负责监督新闻源的Facebook产品经理向同事们介绍了该公司为2020年美国大选所做的准备。

内部研究表明,脸书上的人们在政治讨论小组中被两极分化,这也为错误信息和仇恨提供了温床。为了解决这个问题,负责保护选举完整性的Facebook员工建议该平台停止在名为“您应该加入的团体”的模块中推荐此类团体。

产品经理在Facebook内部留言板上写道:“尽管“产品推荐”将改善公民过滤器的实施,但会在[2020年美国大选期间]在政治生态系统中引起轰动。” “我们决定在选举结束之前不做任何改变。”

该社交网络最终在11月大选前几周暂停了政治团体的建议,直到1月6日国会大厦起义后才将其永久删除。现任和前雇员表示,Facebook决定不理会其诚信团队。指导和最初不让团体提出建议的情况,充分说明了政治计算经常如何压制可能使虚假信息和激进主义蒙混过关的公司举措。

在关于小组建议的同一更新中,产品经理还解释了领导者由于潜在的政治忧虑而决定不对称为In Feed Recommendations(IFR)的功能进行更改的决定。 IFR旨在将帖子从他们不关注的帐户插入人们的供稿中,旨在促进新的人脉或兴趣。例如,如果某人关注了堪萨斯城酋长之类的橄榄球队的Facebook页面,那么IFR可能会将NFL的帖子添加到其供稿中,即使该人没有关注NFL。

IFR不应做的一件事就是推荐政治内容。但是那年春天的早些时候,Facebook用户开始抱怨说,尽管他们从未参与过这类内容,但他们在新闻摘要中看到了包括本·夏皮罗(Ben Shapiro)这样的保守人物的帖子。

当内部对该问题进行标记时,Facebook的内容政策小组警告说,删除有关政治内容的此类建议可能会减少这些页面的参与度和访问量,并可能引起发布者的投诉。新闻提要产品经理和政策小组成员在8月Facebook内部留言板上的帖子中重申了这一观点。

“这些生产者的分布明显下降(通过交通洞察力提出建议)可能导致备受瞩目的升级,其中可能包括在2020年美国大选期间对某些政治实体实施影子禁令和/或FB偏见的指控,”他们解释了。影子禁止或在不通知页面所有者的情况下限制页面发行量是右翼人士针对社交媒体平台提出的普遍指控。

前核心数据科学家在备忘录中指出,在2020年全年,“对强大的政治行为者的恐惧”成为关键的公共政策团队合理化,以便在美国总统大选前放弃对潜在违法内容采取的行动或推出产品变更。 。他们还说,他们已经看到“有十个提议被用来衡量或精简News Feed内容客观质量的提议,因为……它们在美国政治领域产生了不成比例的影响,通常会更加损害保守的内容。”

这位数据科学家曾在公司工作了五年以上,然后于去年年底离职,他指出,尽管自2016年以来取得了长足进步,但News Feed的政治内容状况“仍然普遍被认为是不好的”。他们补充说,根据Facebook的数据,每100篇关于美国政治的内容的观点中有1篇是关于某种恶作剧的,而对政治材料的大多数观点都是在党派职位上发表的。数据科学家说,如果该公司被认为是“敏感的”或可能进行报复的话,它将继续给已知的虚假和误导性信息传播者以通行证。

他们写道:“在美国,干预似乎几乎完全是代表保守的出版商,”这归因于政治压力或不愿让敏感的出版商和知名用户感到不安。

正如BuzzFeed News去年夏天报道的那样,包括Kaplan在内的Facebook政策小组成员代表右翼人物和诸如Charlie Kirk,Breitzart和Prager University之类的出版物进行干预,在某些情况下,要求消除对其页面上的误报或帐户。根据Facebook的第三方事实检查人员的建议,应用罢工会导致一系列的处罚,从降低其帖子分发的距离到删除页面或帐户的处罚。

卡普兰的其他干预措施都有据可查。 2018年,《华尔街日报》(Wall Street Journal)透露他帮助杀死了一个将具有政治分歧的美国人联系起来的项目。该报导说,卡普兰曾反对“在接受Facebook内部研究的简报时发现,向右倾斜的用户比向左倾斜的用户更倾向于两极化,或者更少地暴露于不同的观点。”去年,《纽约时报》报道了

......