我们发现了YouTube广告展示局的谷歌社会正义Blocklist

YouTube上的极端内容返回几乎是平台的开头。自2007年以来，南方贫困律师中心一直在突出这个问题。在伦敦赛季经营伊斯兰极端主义的视频的主要品牌广告的调查后，第一个主要广告商在伦敦时代进行调查后，这是一个十年后发生了一十年的大约十年。 Neo-Nazi团体。

在抵制之后，YouTube介绍了一套新的“品牌安全”控制，旨在防止广告对抗仇恨和其他“潜在令人反感的内容”。

由第三方广告代理商维护的广告 - 关键字BlockList是有争议的。新闻网站抱怨说，他们通过防止关于LGBTQ问题的文章和黑人生活的收入而不公平地伤害他们的底线。

并且在Demaletization中存在相当大的研究和分析，这是YouTube禁止特定视频或渠道运行广告。例如，由Youtube频道SealoW，Nerd City和Youtube的人员进行的一项研究项目分析了数千个视频，发现该公司将那些与“同性恋”的词语“的人逐渐消化为”女同性恋“，以及与之相关的其他一些话LGBTQ社区。在关于研究的文章中，Vox引用了一个未命名的谷歌发言人，称，该公司测试以确保它用于广告阻断的算法并不偏见，并且该公司不会“有一个触发恶魔化的LGBTQ +相关词汇列表。”

我们的调查并未专注于恶魔化，而是谷歌采取的明显步骤，防止广告商故意在YouTube视频上放置广告，公司发现与某些单词和短语有关。

在我们在本系列的第一次调查中，我们发现谷歌在谷歌广告门户网站上拦截广告商的仇恨YouTube视频差。它允许公司查找与我们讨厌短语列表中的超过三分之二相关的视频 - 我们在除三个短语中的所有短语中得到了街区。 （Youtube通过添加一些但不是所有的单词和短语来回应它错过了它的BlockList。）

对于这项调查，我们试图了解广告商是否可以使用谷歌广告来查找广告的社会正义视频。我们对观察谷歌的广告门户在注意到“黑色生命物质”之后，我们感兴趣，因为之前调查的一部分，这句话似乎在谷歌广告基础设施的另一部分被封锁。

“在Youtube，我们相信黑人生活，”Youtube Ceo Susan Wojcicki去年6月写了一条消息给Youtube社区。

然而，我们的调查显示，YouTube阻止了广告商能够找到社会正义内容，可能限制那些YouTubers的广告收入。当我们在11月份检查时，Google广告不允许公司找到与与这些动作相关的十几个术语相关的YouTube视频或渠道 - 包括“黑色生命物质”，“黑色电力”和“我站在Kaepernick”。

更引人注目，我们发现这与该公司对运动批评者使用的等同术语相矛盾。 “所有的生活都很重要，”蓝色生活，“和”白人生活“都可以在谷歌广告上使用，找到您在哪个广告的YouTube视频和渠道。

Google广告Portal的视频画面。它显示了在YouTube视频上的广告展示位置的两个搜索。第一个是对黑色生命物质的阻塞响应。第二个是＆＃39的完整repsonse;白色生活＆＃39;

Google广告网站的屏幕记录显示两个搜索不同的响应。一个搜索＆＃34;黑色生命物质＆＃34;返回一个阻止的响应，另一个是＆＃34;白色生活＆＃34;返回完整的响应。记录在2021年1月5日。

谷歌广告门户网站的屏幕录制，显示＆＃34;黑色生命物质＆＃34;被封锁，而＃34;所有生命物质＆＃34;不是。记录在2021年1月5日。

此外，我们使用的列表上的所有社会justice关键字都被宣传了穆斯林，包括广告放置搜索，包括像“穆斯林时尚”和“穆斯林育儿”这样的无害的短语。他们的同行，“基督教时尚”和“基督教育儿”，当我们在11月份检查时没有被封锁 - 也不会被反穆斯林仇恨短语“白莎琳”和“文明圣战”。

当我们接近谷歌时，发言人克里斯托弗·劳顿确认，该公司阻止了广告商在Google广告平台中使用了一些文字进行广告发现，并没有发出我们的分析或方法。但他拒绝回答与本方法或随附的文章有关的一个问题。

谷歌对这一分析的回应是扩展其谷歌广告块，删除广告商使用“白人生活”的术语查找广告视频的能力，“所有生活，”“白赛”，“白莎莉亚”和“文明圣战” 。“

此外，谷歌悄悄地阻止了Google广告门户网站的更多种族和社会公正条款和短语。当我们再次联系到谷歌后再次检查我们的列表时，我们发现该公司已达到32条广告搜索的术语，包括“黑色卓越”，“说出他们的名字”，“相信黑人女性”。

因此，Google广告现在阻止了广告商在我们的列表中使用了83.9％的社会和种族司法条款，以查找到放置广告的视频，从32％上看。

这些新块没有遵循以前的块的模式，而是谷歌改用了向返回没有相关视频的单词的单词的本机响应，并且API现在返回新阻止的术语的相同响应。在这样做时，谷歌混淆了任何未来的努力，用其他关键字复制这项调查，因为它已经影响了“没有结果”的API标记。

我们使用与我们对仇恨术语的同伴调查中相同的数据收集和分析方法。我们使用未记录的API为我们在Google广告Portal中找到的广告展示位置收集我们的数据进行此分析。我们通过该API运行了社交正义关键字，以确定可用于广告展示率的术语，并且被阻止（而不是Google查找无关视频）。

有关我们如何辨别结果被阻止的详细信息（而不是谷歌未找到相关的视频）在此处出现在此故事的方法中。

我们询问倡导团体改变的颜色，Mediajustice，Mijente和穆斯林倡导者独立提供与种族正义和代表相关的单词和短语列表。这些组织已领导呼吁技术问责制并遏制在线仇恨言论。他们共送给我们175个分立关键字。

没有你，我们不能这样做。我们的小团队正在向其占据占亿美元的科技集团的一切。我们需要在我们身边像你这样的读者。

今天支持标记

我们通过删除主要用于社会正义范围之外的名称，一般性，晦涩的条件和单词来删除列表。我们通过Google ADS门户运行列表进一步减少并审查每个术语的前20个建议的视频（Google显示最多20个建议的视频和每个搜索的频道，但在用户击中“更多”时继续加载他人选项卡。）如果我们发现没有与20的第一个Tranche的社交官司法相关的YouTube视频，我们从我们的列表中删除了这个词。这是我们用来限制我们在同伴调查中的仇恨术语列表的过程。

由哈佛大学的Shorenstein中心技术和社会变更项目的媒体操纵研究人员最后一次被审查所得到的清单。

我们的最终清单包含62个关键字，代表标语，社会动作和身份周围的条款（“调查结果”中的完整列表）。

我们名单上的大多数条款最初可以由广告商使用，以便在需要期望的情况下搜索视频。但是17 - 超过四分之一 - 被封锁了。在被封锁的条款和短语中是“黑人生活，”无害的商业主题，包括“穆斯林时尚”，和口号支持代表家Ilhan Omar“我站在Ilhan。”另外4.8％（三个术语）返回部分被阻止的响应（完整的渠道建议和单一无效的视频推荐）。这些包括“赔偿”，“殖民主义”和“反射体”。

表显示社会正义关键字及其阻止状态，包括未被阻止或部分阻止的关键字的视频和渠道建议的数量。

将这些结果与我们的伴侣研究结果相比，讨论术语揭示了令人不安的差异：“黑色动力”被封锁广告放置但不是“白力”。 “黑人生活”被封锁，但不是“白人生活”，“所有生活，”或“蓝色生活”。然而，“黑色跨越物质”和“黑人女孩”也没有被封锁。

所有生活，黑人女孩，黑色跨越物质，蓝色的生活，白人生活

我们还发现，提到穆斯林的宣传团体建议的所有条款被封锁，包括“穆斯林团结，”“穆斯林育儿，”“穆斯林美国”和“黑穆斯林”。谷歌没有阻止反穆斯林仇恨术语，如“白莎琳”和“文明圣战”。

宗教描述“犹太人”，“基督徒”和“佛教徒”也被视为独立的话语。但是当我们将它们与“时尚”一词结合起来时，只有“穆斯林时尚”，倡导者建议的术语之一被封锁了。 “犹太时尚，”“基督教时尚”和“佛教时尚”在我们进行学习时没有被广告被封锁，展示与任何其他词的“穆斯林”的毯子禁令没有延伸到其他宗教。

当我们开始与报告专家分享我们的调查结果 - 但在我们接近谷歌之前 - 这种差异是固定的。该公司现在阻止搜索“时尚”和我们检查的四个宗教中的任何一个宗教的“育儿”，但块看起来不同（请参阅“Google Response”部分中的详细信息）。在我们走近谷歌后，我们通过API运行了包括宗教术语（文化，饮食，假期，历史和转换）的其他无害的短语，并且所有其他宗教术语都被封锁了谷歌的新块信号。

在我们的列表上的多字词短语中，Google已阻止其中17个。正如我们讨厌的仇恨，我们发现在大部分时间内绕过块之间的单词之间的空间 - 在这种情况下为17短语的13个。

即使没有空格，仍然没有空格，仍然没有空格，仍然存在“性”或“性。”的三个短语。这三个短语中的其他根词并没有自己阻止。我们发现，任何包含字母“性”的搜索都被广告放置搜索阻止了，无论在哪个单词或短语中出现。这表明YouTube有能力在其街区中宽松或更严格，并故意行使这种自由裁量权。

我们发现的不同阻止级别可能是由Google使用正则表达式（或Regex）来构造模式以自动化文本匹配的模式。 Regex可以寻找确切的单词或铸造宽网。它是为此确切的问题创建：匹配部分单词，名为子串。

总而言之，我们对此调查的分析和对仇恨术语的伴侣调查揭示了Google练习在搜索Google广告上的AD介绍YouTube视频时进行各种级别。它有时会阻止特定的术语（“黑色电源”）。在其他情况下，它阻止了在“穆斯林时尚”中的短语（“穆斯林”中的任何位置出现的单词。在最少的情况下，谷歌阻止了一部分单词和短语（“性工作”和“性工”）的部分。

Google Spokesperson Christopher Lawton确认YouTube使用Blocklists，并没有发出我们的分析或方法。但他拒绝回答与其社会和种族司法障碍有关的一个问题。

谷歌而不是从社会正义单词中删除块，而不是将其块扩展到Rejoinders和讨厌的术语，这些条款可用于广告活动 - “白人生活”，“所有生活，”“白人力量”，“白莎莉亚”和“文明”圣战。“

公司还悄悄地阻止了32种社会和种族司法的术语，包括“黑色卓越”，“说出自己的名字”，“相信黑人女性”。当我们询问为什么公司向社会和种族司法术语中扩大其块时，劳顿没有回应。

这些新块不会返回以前所识别的API响应。相反，谷歌将API的本机响应复制到返回没有相关视频的单词，将其复制为API对新封锁的术语并损害未来审核Google广告BoltList的能力。

尽管YouTube承诺支持黑色创建者，但其母公司禁止重要的种族司法条款 - 包括黑人生活，黑色力量和黑穆斯林 - 从搜索广告展示位置，但允许“白人生活”，“白幂”，“白幂，”白人民族主义者“ “和其他蒸馏和讨厌的短语。

在11月份检查时，我们列表中的62名种族和社会正义单词和短语中的三分之一被封锁了广告展示局的视频。在我们向公司达成后，它会阻止更多的短语。谷歌现在阻止我们的社交和种族司法列表列表中的83.9％的短语，以供广告商用于为他们的广告找到视频。

宗教术语“穆斯林”导致联合会的街区，包括与商业吸引力的关键字，如“穆斯林育儿”和“穆斯林时尚”。这与谷歌广告如何处理其他宗教关键词不同。穆斯林社会公正术语的治疗也与谷歌对待的反穆斯林仇恨术语，包括“白莎草”和“文明圣战”，这些讨论和“文明圣战”在进行了调查时，可用于搜索广告展示的视频。

在我们走近谷歌后，公司还阻止了我们指出的所有仇恨短语与社会和种族司法广告块相冲突。在我们开始进行采访时，谷歌在报告中与其他宗教话语封锁无害的短语，我们揭示了我们向第三方发现的发现。

我们感谢杰弗里·罗克斯的公民实验室，Robyn Caplan的数据＆amp;瑞士联邦理工学院的社会和Manoel Ribeiro Lausanne关于此方法的早期草案评论。我们还要感谢改变的颜色，MediaJustice，Mijente和Muslim倡导者提交关键字，以创建我们的报告背后的列表，并在哈佛大学的Shorenstein中心技术和社会变更项目的Brandi Collins-Dexter查看关键字列表。

随着技术延伸到培养的所有角落和Blackbox算法中的所有角落，以无法解决的方式重塑我们的生活，标记正在努力使其成为焦点。

我们是一个非营利组织新闻室，为技术报告提供了技术专业知识。我们追求难以击球，数据驱动的分析，并持有强大的机构来账户。

独立新闻对健康的社会至关重要，您的支持对于独立新闻至关重要。 立即支持标记