Facebook和谷歌对保护人权和公共利益的承诺是由其广告的利润模式和绝对关注增长的绝对困境

Facebook和谷歌使广泛的承诺保护人权和公共利益，但只有这一点不会干扰他们的广告利润模式。立法者是正确的，可以追随钱。

在3月25日关于DISINAMATION的国会听证会上，众议院能源和商务委员会成员突出了目标广告和内容策策制度所带来的一些更严重的危害，包括1月6日攻击美国国会大胆和关于Covid的病毒缺陷 - 19疫苗。 Facebook，Google和Twitter的首席执行官偏转了立法者关于他们的技术如何实际工作和推动利润的问题。相反，他们与事实上检查标签和滥用检测算法等事物吹嘘了他们的努力。

这些努力是一个界面，国会似乎似乎似乎明白了这一点。随着我们的研究小组争论一段时间，手头的真正问题，由委员会主席Frank Pallone简明地描述：“这是商业模式。”公司正在为公共利益选择利润，并故意隐藏它们如何构建其算法驱动的广告系统。这不仅仅是关于商业秘密或坏行为者。它是关于他们的基本目标：增长。

我们的团队在排名数字权利中，研究了世界上最强大的技术平台的公开政策，并评估了他们的基于人权的标准，涵盖了表达自由，隐私和歧视等问题。谷歌和Facebook在我们最近的评估中突出，因为这两家公司都采取了广泛的承诺来尊重用户的权利。似乎决定将其算法驱动的广告目标和数据推断系统保留在锁和键下。 Twitter没有做出如此席卷的承诺，也没有提供尽可能多的服务或赚取与其他两家公司一样多的收入。

Facebook在3月16日发布的其运营中保护人权的新承诺提供了一个很好的例子。该政策彻底了解它，但也没有提到广告，尽管它占Facebook收入的近99％。如果公司真正关心人权和公共利益，则应秉承其业务模式核心的承诺。

有充足的证据表明需要这一点。除了上周的听证会中引用的轶事，独立研究由纽约广告观测站和标记等群体已经表明了Facebook Targets ADS如何对人们分享，读取和理解信息和误导性的巨大影响平台。

我们知道算法是广告目标系统的引擎，我们知道该公司非常关注其算法的公共形象。所以这似乎是一个愉快的问题：通过新的政策到位，Facebook将在其算法中尊重人权？很难说。该政策提供了一些高级别的保证，但对实施提供了很少的细节。它指向Facebook的“负责任的AI”努力，重点关注“了解公平和纳入关注。”

这是一个重要的考虑因素，但它在线之间值得阅读。我们知道公司特别关注偏见的两个原因：首先，在Propublica证明Facebook允许广告商根据他们的“民族亲和力”，民间社会倡导者和美国住房和城市发展部采取公司才能排除法庭。由此产生的定居点的条款包括民权审计，敦促该公司在建造广告算法时考虑这些问题。其次，感谢Buzzfeed和MIT Tech Review的报告，我们知道在共和党立法者开始指责公司在平台上指责公司过度审查的保守声音，偏差在特朗普岁月内成为Facebook的特别高。

偏差几乎是Facebook用户在这里抵消的唯一问题。其他类型的伤害呢？在她最近调查这些问题的情况下，麻省理工学院科技评论的Karen Hao采访了多个寻求改变算法的Facebook工程师，以便他们不太可能促进可恶和暴力内容（因此可能会减少用户参与），而是被他们的上司。为什么不让工程师测试更多方法来减少算法危害，这超出偏见？因为这可以减少“参与”，而且反过来，利润。

公司可以用来识别和减轻广泛可能的危害的基石技术是人权影响评估。在推出新产品或服务之前，公司应彻底审查，并考虑它可能导致的危害。

Facebook对这种方法没有陌生人。然而，在2020年，Facebook没有提供公众证据，即它评估了其AD目标系统对隐私或自由言论的权利的影响。该公司努力评估广告在美国内部可能导致非法歧视的努力，但这是直接响应上述诉讼。

当面对强大的政治行动者（或实际诉讼）的压力时，Facebook愿意做出一些让步。但该公司似乎在其答复中绘制了紧张的线条，仅在某种程度上修复了问题，并在某种程度上可以安抚有关方并帮助减少糟糕的压力。对我们来说，这看起来像是一种保护其核心利润模型的尝试。

然后有谷歌。尽管该公司承诺尊重人权，但其更近期的“道德AI”原则，以及它在搜索引擎和视频平台市场中赋予其竞争对手的事实，谷歌已经发布了关于如何实际构建其算法的信息。该公司的网站详细概述了搜索算法如何工作，但为YouTube提供了更少的细节。

鉴于独立研究人员对YouTube推荐“极端”内容的倾向，这是令人不安的。寻求政治信息可以令人惊讶地迅速导致暴力极端主义内容。和寻找儿童色情内容的人，这是非法并在网站上禁止的人，尽管如此，他们向游泳池玩耍的孩子们找到了途径。

当研究人员对寻找儿童视频的用户的掠夺性倾向时，该公司为包括儿童的视频制作了一系列的小型系统调整，但不会关闭这些视频的侧边栏建议，尽管有令人请求的儿童安全倡导者。

3月25日，REP。Anna Eshoo（D-CA18）询问首席执行官孙尔·普国，如果他“愿意大修YouTube的核心推荐引擎”来纠正误导和仇恨在平台上的传播。与听证会的一个主要主题保持一致，Pichai拒绝给出是或否答案。

当我们寻找谷歌的承诺和透明度的目标广告及其对用户的影响时，它甚至比Facebook更糟糕。我们发现没有公众证据表明，它评估了其广告目标系统对隐私，自由言论或不歧视的权利的影响。

虽然Apple在听证会上没有代表，但在谷歌讨论谷歌时，旨在识别邮件的庞大角色是在我们的移动设备上收集和货币化数据时扮演的猛犸象。最近两家公司在枢转方面推出了数据收集，推理和货币化的新方法，以便使用第一方数据来定位广告。然而，两者都曾被诬陷作为消费者的隐私保护的框架 - 查看苹果和谷歌的新政策。

特别是，Apple的IOS 14对第三方应用程序的要求在下载时获取人员同意收集其数据，从Facebook，Facebook Messenger，Instagram和WhatsApp的所有者触发了公众批评，该批评在全球范围内保持了30亿用户。两家公司都倾向于融入公共利益争论，苹果公司声称它只希望保护用户隐私，以及Facebook伪装成小型企业的罗宾汉，称他们将遭受最严重的经济爆发。

但这里的真实战斗是为了我们的数据。 Apple的新反追踪措施将使第三方（包括Facebook）更难捕获我们的信息。在这样做时，这些措施将把Apple放在更强大的位置才能捕获，制作推断，并通过货币化我们的数据，专家猜测这可能使公司能够优先考虑自己的广告网络。

尽管苹果崇高的崇高承诺保护我们的权利，但我们对公司如何做这些事情的了解得多。在今年的研究中，我们找不到苹果对用户数据推断是否或如何进行用户数据的关键成分的公共文档。就像谷歌一样，苹果公司发表了致谢它从事有针对性的广告的政策，我们发现没有证据表明它对这些活动中的任何人进行人权影响评估。

在这些公司没有真正的透明度，关于他们如何建立他们的技术以及他们对我们的信息做的事情，我们只有一套关于我们屏幕后面发生的事情的线索。公司政策和陈述对某一点有用，但我们必须在泄露文件中，从公司内部和前雇员的第一手账户以及越来越受欢迎的退出举动。寻求阐明技术如何实际工作的独立研究努力也是至关重要的，我们知道他们正在击中一个神经 - 在上述来自Facebook的停止和停止信件的上述NYU广告观测所以这一点清楚。

令人欣慰的是，看到立法者终于在这些问题的根源中引人注目，而不是仅关注内容。关于在线有害内容有很多东西可以说，如何进行中等或删除它，我们认为这非常重要。但是，当谈到立法时，我们的资金就在商业模式。直到他们做出否则，技术CEO将继续通过与非承诺答案的严重问题偏离严肃的问题，并使公众分散有轮询和加密时钟。如果我们要从这种混乱中脱离，立法者将需要在沙滩上画一条线，把公司放在誓言中，并将商业模式和驾驶IT-Front和中心的技术。

Ellery Roberts Biddle是数字权利排名的编辑总监，这是一个在新美国的研究计划，评估了世界上最强大的技术公司免受人权标准。 Ellery在全球数字权利社区中一直活跃，近十年，主要是全球声音的宣传主任，在那里她与国际作家，活动家和技术人员在数字时代讲述了关于媒体自由的故事的国际网络，以及技术对世界各地用户生命与人权的影响。她还担任民主中心的政策分析师。技术，并是哈佛伯克曼克莱因互联网互联网中心的研究员。 2014 - 2017年社会。除了全球声音外，她还为纽约时报，石板，监护人，石英和美洲汇编了。