泄露的 Meta 数据揭示移除支持巴勒斯坦帖子的行动
泄露的数据揭示了以色列大规模移除 Facebook 和 Instagram 上支持巴勒斯坦帖子的行动
根据 Drop Site News 获取的 Meta 内部数据,对 Instagram 和 Facebook 上批评以色列——甚至是含糊地支持巴勒斯坦人的帖子——的大规模打压,是以色列政府直接策划的。数据显示,自2023年10月7日以来,Meta 已经执行了以色列提出的 94% 的删除请求。以色列是迄今为止全球删除请求的最大发起者,而 Meta 也紧随其后,扩大了自动删除帖子的范围,创造了可以称之为现代历史上最大规模的内容审查行动。
Meta 内部人士表示,政府删除请求通常侧重于该政府境内公民发布的帖子。以色列的行动的独特之处在于它成功地审查了以色列以外许多国家的言论。更重要的是,内部人士表示,以色列的内容审查项目将对未来产生深远影响,因为 Meta 目前正在训练的 AI 程序将根据成功删除批评以色列的内容,来决定未来的内容审核。
为了支持 Drop Site 的调查,请订阅免费或付费版本。
由举报人整理并提供给 Drop Site News 的数据显示,Meta 内部的“诚信组织”(Integrity Organization)的运作机制被揭露,该组织致力于确保其平台上的安全和真实性。删除请求(TDRs)允许个人、组织和政府官员请求删除据称违反 Meta 政策的内容。文件表明,以色列的大部分请求(95%)属于 Meta 的“恐怖主义”或“暴力和煽动”类别。以色列的请求绝大多数针对来自阿拉伯和穆斯林占多数国家的用户,旨在压制对以色列的批评。
Meta 内部的多个独立消息来源证实了举报人提供的信息的真实性。数据显示,Meta 删除了超过 90,000 个帖子,以遵守以色列政府提交的 TDRs,平均耗时 30 秒。自 10 月 7 日以来,Meta 还显著扩大了自动删除的范围,导致自 2023 年底以来,Facebook 和 Instagram 上估计有 3880 万个额外的帖子被“采取行动”。在 Facebook 术语中,“采取行动”意味着帖子被删除、禁止或压制。
删除请求
根据泄露的信息,以色列政府在 10 月 7 日之后的所有 TDRs 都包含完全相同的投诉文本,而不管被质疑的基础内容的实质是什么。消息人士称,没有一份以色列 TDR 描述了被举报内容的具体性质,即使这些请求链接到平均 15 个不同的内容。相反,除了对 10 月 7 日袭击事件的描述外,报告只是简单地陈述:
这是一项关于 Facebook 上发布的煽动性内容的紧急请求。本请求的附件包含违反以色列《反恐法》(2016)第 24(a) 和 24(b) 条的链接,该法案禁止煽动恐怖主义、赞扬恐怖主义行为以及识别或支持恐怖组织。此外,其中几个链接违反了《隐私保护法》(1982)第 2(4) 条,该法案禁止在可能羞辱被描绘者的情况下发布图像,因为它们包含被杀、受伤和绑架者的图像。此外,根据我们的理解,附件报告中的内容违反了 Facebook 的社区标准。
Meta 的内容执行系统通过不同的途径处理用户提交的报告,具体取决于报告者是谁。普通用户可以通过平台的内置举报功能举报帖子,从而触发审核。举报的帖子通常首先被机器学习模型标记为违反或不违反,尽管有时人工审核员也会进行审核。如果 AI 分配了高置信度分数,表明存在违规行为,则该帖子将被自动删除。如果置信度分数较低,则人工审核员会在决定是否采取行动之前审核该帖子。
另一方面,政府和组织拥有特权渠道来触发内容审核。通过这些渠道提交的报告会获得更高的优先级,并且几乎总是由人工审核员而不是 AI 进行审核。一旦经过人工审核,审核结果就会反馈到 Meta 的 AI 系统中,以帮助其更好地评估未来类似的内容。虽然普通用户也可以提交 TDRs,但很少会采取行动。政府提交的 TDRs 更有可能导致内容删除。
举报人称,Meta 绝大多数都遵守了以色列的请求,对政府账户采取了例外处理,即在没有人工审核的情况下删除帖子,同时仍将数据反馈到 Meta 的 AI 中。人权观察组织(HRW)的一份报告 调查了 Meta 对 10 月 7 日之后支持巴勒斯坦内容的审核 发现,在 HRW 记录的 1,050 个在 Facebook 或 Instagram 上被删除或压制的帖子中,有 1,049 个涉及和平的支持巴勒斯坦的内容,而只有一个帖子是支持以色列的内容。
Meta 诚信组织内部的一位消息人士证实,他们对自动审核的内部审查发现,没有违反 Meta 政策的支持巴勒斯坦内容经常被删除。在其他情况下,应该简单删除的支持巴勒斯坦内容被给予“警告”,这表明更严重的违规行为。如果单个帐户在其发布的内容上收到太多的警告,则整个帐户可能会从 Meta 平台中删除。
该消息人士称,当诚信组织内部对过度执行反对巴勒斯坦内容的担忧被提出时,领导层的回应是,他们宁愿对潜在的违规内容进行过度执行,也不愿执行不足,并冒着将违规内容留在 Meta 平台上的风险。
删除、警告、暂停
在 Meta 内部,几个关键领导职位由与以色列政府有个人关系的人物担任。诚信组织由 Guy Rosen 领导,他曾是以色列军方信号情报部门 8200 部队的以色列军方官员。Rosen 是 Onavo 的创始人,这是一家网络分析和 VPN 公司,后被当时的 Facebook 于 2013 年 10 月收购。(之前的报道显示,在收购该公司之前,Facebook 使用 Onavo 从其 VPN 用户那里收集的数据来监控竞争对手的业绩——这是拜登政府在起诉 Meta 时,联邦贸易委员会指控的反竞争行为的一部分。)
员工称,Rosen 的诚信组织与 Meta 的政策组织协同工作。政策组织制定规则,诚信组织执行规则——但两者相互促进。一位 Meta 员工解释说:“政策变化通常是由诚信组织的数据驱动的。”今年,Joel Kaplan 接替 Nick Clegg 成为政策组织负责人。Kaplan 曾是布什政府官员,过去曾与以色列官员合作打击“网络煽动”。
Meta 的以色列和犹太散居公共政策主管 Jordana Cutler 也曾介入调查支持巴勒斯坦的内容。Cutler 曾是以色列政府高级官员和总理 Benjamin Netanyahu 的顾问。据报道,Cutler 利用她的职位 来标记支持巴勒斯坦的内容。根据 Drop Site 审查的内部通信,截至今年 3 月,Cutler 仍在积极指示公司员工搜索和审查提及 Ghassan Kanafani 的内容,Ghassan Kanafani 是一位被认为是巴勒斯坦文学先驱的阿拉伯小说家。在加入 Meta 担任高级政策制定者之前,她曾在以色列驻华盛顿特区大使馆担任了近三年的幕僚长,并在担任 Netanyahu 的高级顾问的副手近五年,之后成为 Netanyahu 的散居事务顾问。
根据 Drop Site 审查的内部信息,Cutler 继续要求根据 Meta 的政策“美化、支持或代表”“宣称暴力使命或从事暴力活动以在我们的平台上存在”的个人或组织,来审查与 Kanafani 相关的内容。Kanafani 于 1972 年在一次由摩萨德策划的汽车爆炸事件中丧生,他曾担任左翼巴勒斯坦民族主义组织巴勒斯坦解放人民阵线(PFLP)的发言人。在 Kanafani 去世二十多年后,PFLP 被指定为恐怖组织,根据 Meta 的指导方针和 Cutler 的努力,这可以作为标记他的内容以进行删除、警告和可能暂停的基础。
全球范围
泄露的文件显示,以色列的删除请求绝大多数针对来自阿拉伯和穆斯林占多数国家的用户,受影响最大的 12 个国家是:埃及(21.1%)、约旦(16.6%)、巴勒斯坦(15.6%)、阿尔及利亚(8.2%)、也门(7.5%)、突尼斯(3.3%)、摩洛哥(2.9%)、沙特阿拉伯(2.7%)、黎巴嫩(2.6%)、伊拉克(2.6%)、叙利亚(2%)、土耳其(1.5%)。根据人权观察组织的说法,共有来自 60 多个国家的用户报告了与巴勒斯坦相关的内容审查,帖子被删除、帐户被暂停,并通过影子禁令降低了可见度。
值得注意的是,以色列的删除请求中只有 1.3% 针对以色列用户,这使得以色列成为政府中的异类,这些政府通常将其审查工作重点放在本国公民身上。例如,马来西亚 63% 的删除请求针对马来西亚内容,巴西 95% 的请求针对巴西内容。然而,以色列已将其审查工作转向外部,专注于压制批评者和挑战其政策的叙述,尤其是在加沙和约旦河西岸持续冲突的背景下。
根据 Meta 举报人的说法,尽管 Meta 至少在七年前就意识到了以色列的激进审查策略,但该公司未能遏制这种滥用行为。相反,一位举报人说,该公司“积极地为以色列政府提供了一个开展大规模审查活动的合法切入点。”