关于 Apple 的“扩大对儿童的保护”——个人故事

我现在破产了“非液体”。通常，这句话不会对创建混合的公私监视状态产生地缘政治影响。但在我的情况下确实如此。它开始相当无害。有人不能寄钱给我。不管他们做了什么。他们不能转移任何钱。好奇的。我们开始与不同的朋友、公司和熟人进行试验。他们都不能寄钱给我。 Wise不会提供任何解释。我的企业一直是付费客户超过 4 年多。而现在，我被锁定了。好的。它们并不是海里唯一的鱼。除非它再次发生。这次是我们的银行，Mercury。好吧，这很奇怪。他们询问了更多细节。我们向他们发送了详细信息。扫描我的文档。他们会在几天后返回以获取更多详细信息。我们会再次发送给他们。我们一直在五月柱周围追逐对方。几周过去了，Mercury 的团队终于切入正题，他们问我是否与 Entity X 有关联。我们说没有。不过没关系。反正他们把我冻死了。在某些方面，我们很幸运他们标记了转移，因为他们给了我们关于正在发生的事情的第一个线索。一位朋友最终获得了搜索实体 X 的洞察力（感谢尼克！）并发现他们已被制裁。好的。这跟我有什么关系？在进一步调查中，我们发现我与与实体 X 一起工作的人分享了我的法定姓名。太好了。这是一个常见的名字，比如罗伯特·布朗或玛丽·约翰逊。证明我不是X人不是应该很容易吗？稍微谷歌搜索后，我发现美国财政部有一个外国资产控制办公室（OFAC），如果你被错误地列入制裁名单，他们有一个“重新考虑”的电子邮件地址。因为我显然不是他们想要制裁的人，所以我决定最合乎逻辑的行动方案是写信给他们，并得到他们的同意，我确实不是他们正在寻找的人。 OFAC 很快回复了他们的信用，并提供了一个误报链接，他们告诉我将其发送给银行。好的。完毕。除了，没关系。无论如何，Mercury 阻止了我。传奇以我获得 nada 结束。我回信给 OFAC 要求他们写一些东西，任何看起来像正式的信笺抬头的东西，说明一个简单的事实，即我，在某某日期出生，身份证号为 Z 的人，不是受到制裁的人。如果他们有任何犹豫，我愿意向他们提供更多详细信息。

这个传奇的惊人之处在于我有一个统计上通用的法定名称。有成千上万的人带着这个名字四处奔波。实际上，他们都被禁止进入全球金融体系。值得称赞的是，OFAC 为每个人发布了更多详细信息，以防止发生这种确切的情况。然而，这些细节似乎因个人和国家而异。它似乎不是一个整洁的数据集来建模。事实上，这些列表以 .PDF 和 .TXT 文件在线提供，而且很乱。此外，没有一个列表，而是多个列表，具有不同的细节。据我所知，没有官方 API。程序员没有有效的设计方法，比如“为初创公司构建的[银行]”来遵守财政部的规定。因此，有人决定在某个会议室的某个地方解决这个问题。如果编写这个东西很痛苦，而且它看起来像是一个需要勾选的框，那么为什么不只对名称运行一个简单的匹配——数据集的一个元素保证存在——然后将它放到我们工资低且人手不足的 KYC部门处理？ KYC 部门将其推向了法律。 Legal 看了一眼，然后说：“hrm，如果我们批准这个，我们的下行风险是什么？我们知道这个人确实是被制裁的人吗？哦，我明白了。好吧，让我们阻止他们。他们对此无能为力。” （对于黑色幽默的鉴赏家来说，我觉得特别有趣的是，他们所针对的人很可能永远不会受到这种影响。这个人，我不幸与他分享了一个合法的名字，似乎并没有执行许多国际交易。她住在一个现金优先的发展中国家，制裁无法触及。她只是一个非常大的游戏中的一个低等角色）在其他新闻中，Apple 决定扫描你手机上的图像。当然，对于儿童色情。没有足够的人（也没有公关资本）来浏览您的所有照片。所以，他们已经做了有效的事情。他们只是将您手机上的所有照片与一堆儿童色情图片进行匹配。什么可能出错？其他更有说服力的评论员指出了这带来的危险。苹果公司经常为像中国这样的专制政权屈服，甚至删除帮助香港民主抗议者避免警察暴力的应用程序。或者，该公司不允许成年人在他们拥有的设备上查看成人内容。或者，在更保守的国家/地区，删除任何提及 LGBTQ+ 人群生活不便的应用程序。维基百科有一个详尽的列表。然而，我无意重复这些评论家已经说过的话。也不是为了自己而写论战。我的目标是利用我的经验展望未来。通过必然性，预测未来几天可怜的灵魂会发生的一系列事件。

就像程序员选择将姓名与制裁名单相匹配，而 KYC 和法律部门处理其余的事情，Apple 正在将您手机上的所有私人照片与一个列表进行匹配。该列表是使用称为散列函数的东西生成的。它将图像转换为计算机可以用来进行比较的数字。这个过程看起来有点像这样，请注意这是一个可爱的博客的例子，它经历了这个过程。苹果的流程不同，但本质上是相似的。在大多数情况下，当我们在计算机科学中处理散列时，我们正在寻找完全匹配。但本案不同。罪犯并不傻。他们通常并不聪明，但并非所有人都是愚蠢的。如果他们添加过滤器怎么办？或者，以某种方式改变图像？也许添加模糊？然后怎样呢？嗯，很明显，他们不能让警察正在寻找的每张图像的每一个变化都成为可能。如果编码这个东西很痛苦，而且它看起来像是一个需要勾选的框，那么为什么不直接寻找相似性，然后将它交给执法部门来处理呢？换句话说，苹果提出的问题不是，“这张图片与儿童色情数据库中的这张照片完全一样吗？”不，Apple 提出的问题是，“这张图片与儿童色情数据库中的这张照片相似吗？” “相似”的问题由一个非常聪明但非常愚蠢的算法来回答。就我而言，当程序员转向 KYC 部门和法律部门时，一堆交易被取消。在这种情况下，警察将搜查您的房屋并以“儿童色情”罪名逮捕您。他们将袭击你的形象甚至不一定是成人形象。电脑很奇怪。他们是非常真实的存在。他们完全按照他们的吩咐去做，这既是他们最大的优点，也是他们的弱点。比如这个神经网络认为这只猫是鳄梨酱，苹果的算法很不一样，但是容易出现同样的问题。在这种情况下，将噪声添加到图像中，使神经网络将猫分类为鳄梨酱。在你的情况下，这可能只是偶然。由于光照条件而产生的随机噪声，会拍摄一张无辜的照片（或者更有可能是一张你或你伴侣的亲密照片），并使算法假设它类似于一张受限照片。

就像我一样，有一天你醒来会注意到可能发生了一些奇怪的事情。也许这是一辆停在你街外的车。也许这是一种人们在关注你的感觉。一开始你不会那么惊慌。你会拒绝它。但是，最终，它会撞进来。你的门会被特警敲开。你会发现自己面对着持枪的装甲人员，这让你感到困惑。他们会尖叫着让你举起你的手，把它们放在你的头后面。他们会说，“女士，我们有逮捕你的逮捕令。”和困惑，你会被走出去等待警车。您当地的报纸会写道：“[您] 因拥有儿童色情制品而被捕。”但你不会阅读标题。你会在审讯室。等他们进来。也许警官让你出汗了。也许不会。但最终他们会进来，他们会开始审问你。 “女士，您是否消费包含未成年人的色情内容？”你会否认的。他们会把你的手机放在你面前。它会在其中一个袋子里。你会为他们解锁。你会知道他们会经历一切。包括你为 K 拍的那张令人尴尬的照片。他们什么也找不到。所以他们会回来质问你。也许你已经删除了照片，谁知道呢？让我们把它传递给取证，看看他们想出了什么。最后，你会被关进监狱。你的保释金会很高。您必须向周围的每个人恳求并解释您不知道发生了什么。你不知道为什么会这样。你附近的人可能会相信你，但他们的脑海中会出现这种怀疑。只是一秒钟。他们会有这种怀疑，而且这种怀疑会在他们的余生中一直存在。如果你足够幸运，有钱，你会得到一个律师。他们会努力让你出去。最终，取证将一无所获。你的律师会成功地让你自由行走。你会走回你的家，受到邻居的注视。几个月后，就会发现不，Apple 的算法在这里搞砸了。苹果将​​责怪执法部门。执法部门将责怪苹果。没关系。那家报纸会在他们的网站上刊登一个关于你是多么无辜的小故事。它不会获得很多点击。而关于你因拥有儿童色情而被捕的那件事将永远存在。如果幸运的话，可以添加注释。

也许你会找回你的生活。也许不会。但是你将在这片云彩下度过你的余生，因为某个地方的某个程序员编写了这段代码。其他人都认为它只是有效。 PS——这已经发生了很多很多次。除了像儿童色情这样具有煽动性的东西；糟糕的软件将邮政工人送进了监狱，因为没有人愿意承认它可能是错误的。