采访中东社交媒体倡导和数字权利组织 7amleh 的 Mona Shtaya，了解社交网络如何在 5 月审查巴勒斯坦人

5 月 6 日，MONA SHTAYA 坐在她位于巴勒斯坦拉马拉的公寓里，懒洋洋地浏览推特时，她第一次注意到了一些不对劲。抗议浪潮正在东耶路撒冷蔓延，因为以色列定居者威胁要将 8 个巴勒斯坦家庭从他们位于 Sheikh Jarrah 的小社区的家园中驱逐出去。许多人在 Instagram 和 Twitter 上发布了他们的激进主义视频，但 Shtaya 开始看到巴勒斯坦人抱怨他们的账户被封锁，帖子被删除。一些人抱怨他们的 Instagram 故事档案正在消失，而另一些人则注意到他们故事的观看次数急剧下降。 Shtaya 与阿拉伯社交媒体发展中心（一个数字权利组织，通常被称为 7amleh）合作，对巴勒斯坦人的声音被数字平台压制并不陌生。以色列和统治加沙的激进组织哈马斯自 2007 年以来已经打了四场战争并多次交火； Shtaya 说，现场暴力的在线记录经常被删除，因为它们违反了有时不为人知的平台准则。她说，政府删除内容的要求也发挥了作用，她引用了 7amleh 的一份报告称，Facebook 接受了以色列网络部门提出的删除巴勒斯坦内容的请求的 81%，而 Twitter 根据以色列部提供的信息暂停了数十名巴勒斯坦用户。战略事务。但是，围绕 Sheikh Jarrah 抗议活动提出的审查要求数量超过了她之前遇到的任何情况——而 7amleh 恰好建立了正确的渠道，将这些投诉举报给社交媒体公司。 Shtaya 向下滚动到 Mohammed El-Kurd 的推文，他是一位年轻的巴勒斯坦活动家，他写道 Instagram 威胁要封锁他的帐户，并回答说：“如果你愿意，我们 7amleh 可以支持这一点。”她向其他抱怨社交媒体审查的巴勒斯坦人发送了类似的回复。几天后，7amleh 报告说它能够恢复一些帖子。从“阿拉伯之春”到“黑人的命也是命”运动，社交媒体平台已成为活动家聚集全球关注其事业的公共空间。对于长期以来一直被排除在主流对话之外的巴勒斯坦人来说，Instagram、Facebook、Twitter 和现在的 TikTok 提供了恢复他们的叙述、传播对他们处境的认识、拍摄与以色列安全部队的对抗以及记录暴力镇压的方法。抗议。然而，正如 Shtaya 指出的那样，平台本身并不总是中立的。尽管 Instagram 在 5 月 6 日晚发布了一条过错，将故事、精彩片段和档案的删除归咎于世界各地发生的技术问题，但 Shtaya 指出，这些故障并不能解释她当天标记的所有案例。更重要的是，Shtaya 表示，在 Instagram 于 5 月 7 日表示已解决问题后，巴勒斯坦人继续面临发帖困难。 ，“ 她说。 “所以他们的宣布对巴勒斯坦人来说毫无意义。”

Facebook 承认巴勒斯坦人遇到的问题超出了影响世界各地 Instagram 故事的技术错误，并引用了一个错误，该错误暂时限制了在阿克萨清真寺主题标签页面上查看内容。 “虽然这两个问题都已解决，但它们本来就不应该发生。 Facebook 的一位发言人表示，对于那些认为自己无法引起人们对重要事件的关注，或者认为这是故意压抑自己声音的人，我们感到非常抱歉。从 5 月 6 日到本月底，随着耶路撒冷的冲突演变成以色列和哈马斯之间的战争，最终以临时停火告终，7amleh 表示，它总共记录了 668 起侵犯数字权利的事件，并在社交媒体上标记了每起事件平台，仅 Instagram 就有 250 多起投诉。然而，平台的反应各不相同。 Shtaya 说 Twitter 是响应最快的，7amleh 提到的违规行为中有 96% 在短时间内得到解决。 Twitter 发言人表示，在冲突开始时，其自动反垃圾邮件系统“对一些比我们的政策预期更严重的账户采取了执法行动。”但经过迅速审查后，Twitter 在适当的情况下“主动恢复了对受影响帐户的访问权限”。与此同时，Shtaya 表示，在 6 月中旬之前，只有 20% 的涉及 Instagram 及其母公司 Facebook 的案件得到解决。 Facebook对这些案件没有得到及时审查的说法提出异议。 “我们从 7amleh 收到的所有报告都在几天内得到了优先排序、审查和解决。如果内容一开始不应该被删除，我们会立即恢复它。然而，他们提交的一些案例中包含的内容确实违反了我们的社区标准，或者在我们的平台上完全活跃而没有受到任何限制，”Facebook 发言人说。 Facebook 还表示，它有一个专门的团队，其中包括阿拉伯语和希伯来语人士，“专注于确保我们正在删除有害内容，同时尽快解决任何执法错误。”然而，对许多人来说，这还不够快。随着大量帖子被删除，精通技术的阿拉伯语用户想出了各种方法来规避算法审查的威胁：他们用无点阿拉伯语、阿拉伯语和拉丁语混合文字书写，或者玩弄字母顺序来绕过内容审核系统。一群朋友甚至推出了一个网站，将阿拉伯文字编码成图画，以阻止社交媒体平台删除帖子。但这些措施只是短期解决方案，并不能解决 Shtaya 对社交媒体公司以牺牲巴勒斯坦人为代价删除内容的压倒性担忧。她将 7amleh 记录的数百个 Instagram 和 Facebook 帖子删除与以色列极端主义团体在 WhatsApp 上传播的错误信息和对暴力的呼吁进行了对比。 Shtaya 说，如果 Facebook 的社区准则同样适用，“针对巴勒斯坦人和阿拉伯人的煽动和仇恨言论将被自动删除。” （Facebook 指出它无法访问个人 WhatsApp 聊天，并补充说“当向我们报告信息时，我们会采取行动禁止我们认为可能会造成迫在眉睫的伤害的帐户。”）

“社交平台基本上都是海外的缺席房东。他们在世界上发布他们的产品，然后他们就看看会发生什么。” FACEBOOK 和 TWITTER 曾因其在阿拉伯之春期间帮助活动家组织起来的作用而受到称赞。然而，今天，社交平台正在与多个方面的审查指控作斗争。 Facebook 的情况尤其如此，它在 Instagram、WhatsApp 及其其他应用程序系列中每月拥有 34.5 亿活跃用户。 Black Lives Matter 活动人士此前曾抱怨该平台阻止了其围绕种族主义的对话。去年年底，国际特赦组织称 Facebook 是审查越南政府批评者的同谋。哈佛法学院讲师、专门研究在线平台全球监管的博士生伊芙琳·杜埃克 (Evelyn Douek) 表示：“长期以来，平台基本上都是海外的房东。” “他们有点像在世界上发布他们的产品，然后他们只是看看会发生什么。”但在过去十年中，Facebook 和 Twitter 面临着检查垃圾邮件、错误信息和恐怖主义传播的巨大压力。 Douek 表示，缅甸军方特别使用 Facebook 来推动对罗兴亚穆斯林的种族灭绝，这是一个关键的转折点。 “几乎没有国会听证会提到 [Facebook 在缅甸的角色] 没有出现，”杜埃克说。 “这种对海外平台运营的真正关注。”然而，将 Facebook 等平台的观念从言论自由的典型代表转变为压制言论的建筑师，需要的不仅仅是监管重点。要理解这一点，值得研究内容审核的“黑匣子”世界。 Facebook 中东和北非政策团队前负责人 Ashraf Zeitoon 表示，Facebook 依靠算法和人工审核员的组合来浏览平台上的大量内容。

但是这些方法并不总是正确的。计算机算法可能是区分不可接受的文字和图像的不完美工具，尤其是在处理西方文化之外的区域背景时。人类版主也存在同样的问题，他们只有几秒钟的时间来决定帖子是否符合平台准则。 Facebook 首席执行官马克·扎克伯格此前估计，该平台的版主犯的错误超过十分之一，用户几乎没有办法对此类决定提出上诉。一个特别引人注目的例子发生在 5 月 7 日，以色列警察冲进阿克萨清真寺，投掷眩晕手榴弹，迫使巴勒斯坦人四散开来。希望记录暴力的巴勒斯坦人用阿拉伯语转录的阿克萨语 (الأقصى) 标记了他们的 Instagram 故事，却发现点击标签的用户无法看到他们的帖子。在 BuzzFeed 报告称，错误发生是因为一名人类主持人将清真寺误认为是美国境内被指定为恐怖组织的阿克萨烈士旅，这引发了愤怒。 （Facebook 的一位发言人表示，该限制在公司意识到错误后的两小时内解除。）电子前沿基金会国际言论自由主任吉莉安·约克表示，版主准备跳枪是危险但可以理解的冲动。 “这些公司害怕违反美国法律，”约克解释说。 “我理解为什么公司最终会犯这些错误，尽管这绝对是令人震惊的。” Facebook 内容审核系统的最后一个齿轮是其区域政策团队，Zeitoon 将其称为所在领域的“特警团队”。他们的许多职责包括确定平台上允许的内容的准则，并且当出现问题或争议时，他们通常在检查帖子时拥有最后决定权。尽管 Facebook 的区域存在使其能够制定更了解区域背景的政策，但 Zeitoon 表示，其内容审核过程也容易受到不同的偏见来源的影响，因为其实地操作人员可能会受到政治压力和商业压力的影响。激励措施。 Facebook 表示，其政策团队具有本地“理解力”，但他们的最终目标是“为 Facebook 的利益服务”。随着平台越来越多地陷入地方政治和地缘政治问题，Zeitoon 表示 Facebook 需要对其内容删除政策更加开放，以确保错误不会重演。 “Facebook 不会披露他们收到的内容删除或内容删除的 [政府数量] 请求，因此您在科技公司透明度报告中看到的任何内容都只是冰山一角，”他说。哈佛大学的 Douek 指出了以色列和巴勒斯坦的历史权力动态，以及 Facebook 与以色列政府和巴勒斯坦官员之间关系之间所谓的差异，这是两者之间内容审核继续不平衡的原因。

“以色列采取了这些非正式的报告措施，并对平台施加了很大的压力，要求其删除大量内容，”杜埃克观察到。 “并且平台在这样做时对以色列政府相当友好，这显然为正在发生的事情创造了一种非常不同的背景条件。” Facebook 对这种描述提出异议。 “与世界其他国家相比，我们在以色列限制的内容要少得多。我们不会也不会从 Facebook 或 Instagram 删除不违反我们社区标准的内容——任何关于我们在以色列政府压力下这样做的建议都是完全不准确的，”发言人说。该公司还反驳了更广泛的说法，即它不是中立的，并表示它与巴勒斯坦组织有着“长期”的关系，包括参与巴勒斯坦数字激进主义论坛。数字权利组织 Access Now 的中东和北非政策经理 Marwa Fatafta 指出透明度是社交媒体平台向前发展的关键。 Fatafta 说：“我们知道您的系统运行异常，错误当然会发生。” “让我们谈谈结构性问题，让我们谈谈透明度。” Fatafta 补充说，谈到改革，一切都始于做出这些改变的意愿。 “[对于]这些公司，他们的作案手法是利润高于人，”她说。 Fatafta 表示，Facebook 应该与组织合作，以确保在设计代码和政策时考虑到地区的细微差别和背景。她还建议平台运营商聘请一组“专门的人类版主”，他们可以扩大 Facebook 内部上诉程序的访问范围，并对某条内容是否真的违反社区标准做出最终决定。 Fatafta 说：“如果你认真对待人权和透明度，就不乏解决方案。”全球压力一直建立在社交媒体公司的基础上，以消除其固有的偏见。

在谢赫贾拉 (Sheikh Jarrah) 动乱之后，Facebook 尤其面临公共关系危机。为了抗议审查报告，亲巴勒斯坦的活动人士发起了一场运动，将 Facebook 的评论在 Apple App Store 上的评分降至 2.3 颗星，在 Google Play 上将其降至 2.4 颗星。 NBC 新闻报道称，该问题在 Facebook 内被归类为“严重性”问题，因为员工对用户信任度急剧下降表示担忧。在公司内部，Facebook 员工也对泄露的文件感到困扰，这些文件详细说明了公司将“犹太复国主义”一词视为反犹太言论的政策，他们说这可能会阻碍对以色列国家的批评。据英国《金融时报》报道，大约 200 名员工签署了一封公开信，呼吁 Facebook 的领导人解决对该平台的内容审核系统压制亲巴勒斯坦声音的担忧。围绕社交媒体平台的喧嚣引起了足够的关注，进入了美国国会的办公室。密歇根州第 13 区的代表拉希达·特莱布 (Rashida Tlaib) 给 Facebook、Twitter 和 TikTok 的政策负责人写了一封信，询问了一系列旨在使他们的内容政策更加透明的问题。特莱布还指责 Facebook 在审核以色列和巴勒斯坦内容时表现出“令人不安的双重标准”。 “虽然分享巴勒斯坦观点的帖子和账户受​​到审查和限制，但以色列极端主义团体公开使用 Facebook 旗下的 WhatsApp 来协调对巴勒斯坦人的暴力暴徒袭击，”她写道，并引用了《纽约时报》的一篇报道。 “我无法理解 Facebook 如何为审查巴勒斯坦和平声音的行为辩护，同时为极端主义仇恨提供一个组织平台。”这些平台在一定程度上做出了回应。 Facebook 改变了 Instagram 显示其内容的方式，并发布了其首个企业人权政策，承诺该公司采取措施，例如挑战破坏端到端加密的企图，以及保护人权捍卫者。这场冲突还促使 Facebook 在该地区的参与发生了变化。在以色列和加沙之间的最新暴力浪潮中，Facebook 会见了以色列国防部长本尼·甘茨 (Benny Gantz) 和巴勒斯坦总理穆罕默德·什塔耶 (Mohammad Shtayyeh)，讨论平台监管问题。 Facebook 表示：“这些会议旨在确保各方了解公司已采取并将继续采取的措施，以确保平台安全。”出席与巴勒斯坦官员会面的 7amleh 的 Shtaya 将 Facebook 重新致力于人权视为一个积极的信号。也就是说，她正在等待他们真正兑现他们的承诺。 “我们希望看到他们的行动，”Shtaya 说。

这个故事在阿联酋时间 7 月 28 日下午 2 点 18 分更新，包括来自 Facebook 的额外回复，出现在第 11 段中。