Pinterest的审核方法在搜索查询级别阻止内容，而不是将其完全删除，让一些令人反感的内容保留下来
OneZero的一项调查显示，以灵感板闻名的Pinterest网站也一直在托管年轻女孩的性爱照片、阴谋论和白人至上主义宣传。
过去，这家社交媒体平台因其积极主动的审查努力而受到称赞，但OneZero发现了大量有害内容的实例，这些内容不仅避开了Pinterest的滥用过滤器，而且得到了其搜索算法的积极推荐。这些发现突显了该网站温和做法的风险，这种做法是将危险材料“隐藏”起来，而不是将其从平台上移走。
Pinterest的一位发言人告诉OneZero：“我们希望Pinterest成为一个激发灵感的地方，这意味着我们需要深思熟虑地为我们的用户创造一个安全和积极的空间。”“如果人们发现不应该出现在Pinterest上的内容，我们鼓励他们向我们举报。我们依靠来自用户的报告来发展我们的标准，并使用主动工具来查找和删除内容。此外，我们还就如何改进我们的政策和执法向外部专家寻求建议。“。
Pinterest首席执行官本·西尔伯曼表示，多年来，Pinterest一直试图与其他平台保持距离，坚称它不是一家社交网络，而是一种“为用户精心挑选的‘目录’”。当Facebook和Twitter选择通过删除数百万有害帖子和账户来打击虚假信息时，Pinterest选择了另一条路线，在2018年对“污染内容”发起了搜索禁令，从反疫苗术语、癌症治疗和其他健康错误信息开始。
据“华尔街日报”报道，Pinterest的搜索引擎并没有完全消除这类内容，而是屏蔽了可能产生错误信息的关键词的搜索结果。据英国“卫报”报道，这些努力在去年得到了扩大，当时Pinterest开始提供经过核实的健康事实，以回应与疫苗相关的搜索，此举呼应了Facebook和Twitter的做法，并禁止了数百个与疫苗阴谋论有关的URL和群组。据BuzzFeed新闻报道，在民权倡导者呼吁该公司停止美化奴隶制遗产后，该公司去年也同样限制了“种植园婚礼”的内容。
现在，在Pinterest上搜索“疫苗”，会返回一条关于医疗恶作剧的免责声明，并出现数十个链接到世界卫生组织和疾病控制中心的有用信息的引脚。寻找“种植园婚礼”想法的用户可能会发现一条警告，“人们已经报告了这个搜索中的别针”，这是为了阻止他们轻率地使用这些材料。正如OneZero去年10月报道的那样，Pinterest还开发了一种推荐算法来改善其主页体验。
这些决定给公司带来了相当大的商誉。尽管Pinterest最近因涉嫌公司内部经理发表歧视性、报复性和种族主义言论而出现在新闻中，但到目前为止，它一直避开了Facebook层面的审查。相反，该公司的缓和和策划努力得到了OneZero、《卫报》(The Guardian)等媒体和其他科技出版物的积极报道。
“自从2016年开始对社交网络进行清算以来，出现了一种流行的内容类型，我喜欢称之为嘿，这些搜索结果很糟糕，”The Verge去年写道。“显然，某些主题…。导致更多关于不良搜索结果的报道。因此，我很高兴看到Pinterest注意到了这一现象，并采取了令人惊讶的大胆举措来防范这种现象。“
然而，Pinterest的温和策略并不是万无一失的。OneZero发现许多Pinterest明显违反了Pinterest的社区指导方针，而且可能是有害的。周四，国家观察家报记者卡罗琳·奥尔(Caroline Orr)也在推特上发布了儿童家具别针旁边BDSM产品的图片。虽然这些材料有时对Pinterest用户是隐藏的，但在网上的其他地方往往很容易找到。
一些有问题的内容通过基于他们的浏览行为的推荐来有机地提供给Pinterest用户。但这些内容中的大部分都可以在注销平台时进行搜索，并在谷歌(Google)等搜索引擎上找到。
“如果我们认为结果更有可能不安全、造成重大伤害或构成迫在眉睫的危险，我们就会完全阻止这些结果，”Pinterest的发言人说。“这种阻止发生在搜索查询级别，不会导致删除底层内容，因为并非所有结果都可能违反我们的策略。”
在用户登录之前，Pinterest不允许在其主页上进行搜索。但这一限制可以通过导航到现有的用户页面来绕过，比如Pinterest自己的账户，然后包含一个搜索栏。谷歌搜索提供了另一种解决办法，因为它链接到Pinterest内容的一个主要档案。布尔搜索字符串(在网络上产生特定搜索结果的关键字组合)可以显示大量内容，否则这些内容可能会被Pinterest的关键字过滤器捕获。尽管人们可能不会以这种方式浏览Pinterest，但这些漏洞暴露了Pinterest决定掩盖而不是删除有害内容的潜在风险。
Pinterest告诉OneZero，注销的搜索“应该与登录的搜索具有相同的屏蔽和重定向到权威资源的功能”。例如，对“冠状病毒”的注销搜索会将用户引导到经过审查的医疗资源。该公司表示，它还与搜索引擎合作，加快删除已从Pinterest删除的内容，但澄清一些有害材料可能会从裂缝中脱落。
Pinterest的发言人补充说：“虽然我们努力识别并对这些内容采取行动，使其不会被发现，但一些违规内容有时会出现在搜索引擎结果中，即使在我们要求删除它的情况下也是如此。”
使用这些搜索方法，OneZero发现了该平台上托管的年轻女孩的性爱图片，其中一些似乎是儿童。Pinterest的指导方针禁止“对未成年人的性行为或性剥削，如美容、性言论或不恰当的图像”。OneZero没有确认这些照片中个人的年龄，这些照片是以一个已知的儿童色情代号发布的。无论如何，OneZero已经向Pinterest和国家失踪和被剥削儿童中心报告了这些图片。
OneZero发现许多Pinterest明显违反了Pinterest的社区指导方针，而且可能是有害的。
司法部指出，通用术语经常被用来隐藏儿童色情作品，并延长其在网上的存在时间。2013年，犹他州针对儿童的互联网犯罪特别工作组(Internet Crimes Against Children Task Force)-致力于防止在网上剥削儿童的全国机构网络的一部分-开始调查12起人们在Pinterest董事会上发布儿童色情内容的案件，此前该公司向国家失踪和被剥削儿童中心(National Center For Missing And Developed Children)报告了这些材料。截至2013年5月，也就是这些调查最后一次公之于众时，这些案件的指控仍在审理中，针对儿童的互联网犯罪特别工作组没有立即回应OneZero关于他们目前状况的问题。
此外，OneZero还发现了宣传各种医疗错误信息的大头针-声称维生素可以预防癌症，5G会导致冠状病毒，以及对“医疗自由”反疫苗运动的宣传。这包括个人健康博客的链接，YouTube的一段视频，错误地声称比尔·盖茨对冠状病毒负责，反疫苗商品，以及整个Pinterest网站致力于疫苗导致自闭症的神话的链接，尽管该公司对医疗错误信息采取了强硬立场。今年早些时候，Pinterest推出了定制搜索结果，以打击关于冠状病毒的恶作剧，该平台表示，它不允许用户保存(从而放大)某些健康建议。虽然这些限制可能会阻止用户在Pinterest的平台上看到某些材料，但该公司仍在托管这些材料，这意味着可以通过谷歌搜索遇到这些材料。在Pinterest上搜索谷歌图片中的“5G”和“冠状病毒”，会发现大量图片和YouTube视频的链接，这些视频传播着这一特定的神话。
在OneZero浏览了一块包含反黑人和亲三K党别针的板后，我们的主页出现了一个链接，指向一篇颂扬邦联旗帜和邦联旗帜图章的文章的链接。
OneZero还在Pinterest上找到了YouTube视频、Soundcloud流和宣传Qanon意识形态的商品。与Facebook不同的是，Facebook以“有针对性的不真实行为”为由删除了QAnon的附属页面，而这种类型的内容在Pinterest上很容易获得。虽然该公司似乎已经屏蔽了首字母缩写“WWG1WGA”(指的是QAnon的口号：“我们去哪里，我们去所有人”)，但它并没有屏蔽替代的“WWG1WGALL”，Pinterest的搜索栏实际上在登录时会自动完成这个词。Pinterest还托管着与坦佩尔对血有关的书籍和图像，这是一个与九角教团(Order Of The Nine Angles)有关的组织，是一个与极端主义暴力威胁有关的撒旦新纳粹组织。
在其指导方针中，Pinterest禁止“支持仇恨团体和宣扬仇恨活动、偏见和阴谋论的人”。然而，在该平台上分享了大量的白人至上主义和极右翼内容。这从种族主义评论员到反黑人和伊斯兰恐惧症的形象，再到反亚洲的“孔流感”模因，不一而足。例如，有许多链接到斯特凡·莫利纽克斯(Stefan Molyneux)视频的别针，这位加拿大播客经常拥护“种族科学”和其他白人至上主义意识形态。Molyneux最近因仇恨言论被YouTube和Soundcloud禁止，并因垃圾邮件和平台操纵被Twitter暂停。
Pinterest的推荐算法似乎也提升了种族主义内容。在OneZero查看了一个包含反黑和亲三K党徽章的版面后(登录到一个账户)，我们的主页出现了一个链接，指向一篇颂扬邦联旗帜和邦联旗帜图章的文章的链接。正如OneZero之前报道的那样，Pinterest的算法允许用户通过“关闭”影响这些个性化订阅源的版块、历史记录和主题来控制其主页上显示的内容。对于高级用户来说，这是有用的一步，但非正式用户可能不太倾向于定制自己的体验，Pinterest还可以通过其他方式将有害内容放在人们的指尖上。
Pinterest的发言人在谈到公司的指导方针时表示：“一般来说，我们限制或删除宣扬仇恨活动的仇恨内容、内容和账户，可能损害Pinterest用户或公众福祉、安全或信任的虚假或误导性内容，以及鼓励、赞扬、推广或援助危险行为者或团体及其活动的内容和账户。”然而，Pinterest没有关于超级党派内容的具体政策，这些内容可能属于前述规则，也可能不属于上述规则。
温哥华华盛顿州立大学(Washington State University Vancouver)的数字素养专家迈克·考尔菲尔德(Mike Caulfield)多年来一直在Pinterest上记录有问题的内容。2018年，他展示了对烹饪“完美鸡蛋”的搜索是如何在浏览14分钟内就找到了关于边缘阴谋论的大头针。考尔菲尔德理论上认为这是由于品特
Pinterest的自动完成功能也会将登录用户推向麻烦的内容。输入“中国病毒”会自动以“表情包”和“笑话”结束。与此同时，“AOC”的词条暗示着“愚蠢的迷因”。Pinterest意识到了这些影响。在2016年总统选举期间，它被指控散布源自Facebook和Twitter等其他平台的虚假信息。它再次被指责在加拿大2019年联邦选举期间托管两极分化和超党派的模因。大西洋理事会(Atlantic Council)的数字取证研究实验室(Digital Forensics Research Lab)在网上研究虚假信息，该实验室透露，“只需点击一个极端党派且往往充满敌意的模因，该平台就会推荐其他政治上强烈的模因。”点击一个反贾斯汀·特鲁多(Justin Trudeau)的表情包，就会导致一个更大的极右翼阴谋论网络。
即将到来的总统选举将是对Pinterest算法的压力测试。即使是现在，搜索“选举舞弊”也会出现压倒性的内容，这些内容支持关于邮寄选票的虚假声明。
“政治内容在Pinterest上不是一个受欢迎的用例，我们不想成为政治新闻和辩论的首选场所，”Pinterest的发言人说。该平台不允许政治竞选广告，并表示正在努力解决“敌对行为”。据华盛顿邮报报道，今年早些时候，Pinterest还更新了政策，禁止有关投票和人口普查的错误信息。
过去，Pinterest曾咨询过社交媒体情报公司Storyful等公司的建议，后者帮助其决定屏蔽某些与癌症相关的搜索。正如OneZero之前报道的那样，Pinterest也欢迎像Caulfield这样的研究人员的专业知识，他们的发现导致了围绕打击疫苗接种错误信息的额外措施。
有关于Pinterest的提示吗？您可以通过Signal安全联系莎拉·爱默生(Signal)，电话：+1 510 473 8820，或发送电子邮件至[email protected]。
