在心理健康危机中,由于Covid-19,斯坦福研究人员发现,大多数科技平台没有与自我伤害的讨论有关的政策

2021-04-09 12:58:03

这篇文章讨论了自杀和自我伤害的趋势,以及哪些平台可以进行干预。如果您或任何您认识的人都在遇险并且想谈话,那么有希望帮助的人。致电全国自杀预防生命线(1-800-273-8255),Trevor项目(1-866-488-7386),或在此链接找到美国以外的热线。

科学家们不了解Covid-19对社会的长期影响,但至少有一件事似乎很清楚。大流行为我们的集体心理健康而令人难以置信 - 令人惊讶的科技平台似乎已经给出了这个问题很少的想法。

首先,数字。大自然报道称,英国的成年人数目显示抑郁症的症状从去年3月到6月到19%几乎翻了一番。在美国,11%的成年人报道2019年1月至6月之间的感觉令人沮丧;到2020年12月,该数字几乎四倍,达到42%。

锁定延长的孤立与睡眠中断,增加药物和酒精使用以及体重增加,以及其他症状的延长孤立。关于2020年的自杀于自杀的初步数据是混合的,但药物过量飙升的数量飙升,专家认为很多很可能有意。甚至在大流行病之前,Glenn Kessler在华盛顿邮报的报告中,“自20九年以来,在美国的自杀率增加了35%以上的增长率。”

与自杀和自我伤害有关的问题几乎在某种程度上接触了几乎每个数字平台。互联网越来越多的人搜索,讨论和寻求对心理健康问题的支持。但根据斯坦福斯坦福互联网天文台的新研究,在许多情况下,平台没有与自我伤害或自杀的讨论有关的政策。

在“自残政策和互联网平台”中,作者调查了39个在线平台,了解他们对这些问题的方法。他们分析了Search引擎,社交网络,以性能为导向的平台,如Tiktok,游戏平台,约会应用程序和消息传递应用程序。一些平台制定了强大的政策,以涵盖这些问题的细微差别。但是,许多人完全忽略了他们。

“面对公开政策的全面性存在巨大不均匀,”写Shelby Perkins,Elena Cryst和Shelby Grossman。 “例如,Facebook政策不仅是自杀,而且还包括安乐帽,自杀票据,以及即兴的自杀术。相比之下,Instagram和Reddit在其主要策略文件中没有与自杀相关的策略。“

在调查的平台中,Facebook被发现拥有最全面的政策。但研究人员在Instagram子公司的策略中出现了公司的错误;从技术上讲,母公司的策略都适用于两个平台,但Instagram维护了一套单独的政策,没有明确提及自杀发布,从而产生一些混乱。

仍然,Facebook在一些同龄人领先。被发现reddit,parler和gab与关于自我伤害,饮食障碍或自杀的帖子没有公共政策。这并不一定意味着公司没有任何政策。但如果他们没有公开发布,我们可能永远不会知道。

相比之下,研究人员表示,他们称之为“创造者平台” - Youtube,Tiktok和Twitch - 开发了超越简单承诺的智能政策,以消除令人不安的内容。作者说,该平台在他们的政策中提供了有意义的支持,这些政策都是从精神健康问题恢复的人和那些可能正在考虑自我伤害的人。

“YouTube和Tiktok都明确允许创作者分享他们关于自我危害的故事,以提高意识并找到社区支持,”他们写道。 “我们留下了深刻的印象,即YouTube关于自杀和自我受伤的社区指导方针提供资源,包括热线和网站,为27个国家的自杀或自我伤害的思想。”

但是,在最大的平台之外,这一切都是一个折腾。研究人员无法找到自杀或自我伤害的公共政策,对Nextdoor或Clubhouse进行自杀。约会应用程序? Grindr和Tinder对自我伤害有政策; Scruff和Hinge没有。消息传递应用程序往往没有任何此类公共政策,即imessage,信号和whatsapp没有。 (所有这些都使用某种形式的加密可能与此有很大关系。)

为什么这么做?在采访中,研究人员告诉我,至少有三种大的原因。一个人基本上是一个正义问题:如果人们会被惩罚他们在在线讨论自我伤害的方式,他们应该提前知道。两个是政策提供平台,当他们的用户正在考虑伤害自己时,有机会进行干预。 (许多人提供用户链接到能够在危机时帮助他们的资源。)如果我们不知道政策是什么,我们无法制定更有效的政策,以便在线解决心理健康问题。

研究人员表示,并使这些类型的帖子更加棘手。在讨论自我危害的帖子之间通常有一个细线,似乎令人鼓舞的帖子。

“可以展示从饮食障碍恢复的人的相同内容是也可以为别人引发的东西,”格罗斯曼告诉我。 “同样的内容可以以两种不同的方式影响用户。”

但是如果你甚至没有政策,你就不能温和,我很惊讶,读这项研究,只有多少公司没有。

这已经成为平台师这里的一项政策周。我们谈到了克罗伦斯如何在今天存在的克罗马斯·托马斯如何爆炸平台政策; YouTube如何转移它对平台造成伤害的方式(并披露它);以及抽搐如何为策略创造者在其他平台上的行为制定的政策。

我对所有这一切令我震惊的是,这是多么新鲜。我们十多年进入了平台时代,但仍有这么多的大问题来弄清楚。即使是最严重的主题 - 如何解决与自我伤害相关的内容 - 一些平台甚至没有进入讨论。

斯坦福的研究人员告诉我,他们认为他们是第一个甚至试图在主要平台中编目的自我伤害政策的人,并使他们成为公众。无疑是许多其他地区,类似库存将为公众提供服务。私营公司仍然隐藏太多,甚至是当他们直接涉及公共利益问题时。

在未来,我希望这些公司能够更多地协作更多 - 为自己的平台提供有意义的政策。感谢斯坦福的研究人员,至少在一个主题上,他们现在可以在一个地方找到所有现有的政策。

⬆️趋势:Tiktok加入联盟,以结束野生动物在线跟踪。对于我的计划来说,通过教授它来叛徒来销售被盗的大象。 (Tiktok)

⬇️趋势:从LinkedIn刮下的用户信息的5000万人数据集已发布在线销售。这将刺痛Linkedin的一个原因:该公司以前起诉另一家公司刮掉其网站并丢失了这种情况。 (katie canales / Insider)

⬇️趋势下降:谷歌旨在防止广告在仇恨视频上运行的封锁列表包含明显的孔,此分析发现。 “谷歌广告建议以百万美元的YouTube视频提出了广告商,广告商购买与”白幂“,”Fascist口号“血液和土壤”,以及对暴力“种族圣战”的远方呼吁的广告。(莱昂尹和Aaron Sankin / Markup)

AI和其他技术 - 例如将在2040年到2040年的亿万的设备可以将亿万的设备互联网 - 可能会有潜在的陡峭,奥威尔的公民自由侵蚀和共同的共同现实。

“隐私和匿名可以通过选择或政府任务有效地消失,因为全球网络履行了个人和专业生活的所有方面,”报告国。 “实时,制造或合成介质可以进一步扭曲真理和现实,以矮人当前的禁令挑战的规模和速度稳定社会。许多类型的犯罪,特别是那些可以通过数字监测监测和归因于数字监测的罪行,而新罪行将变得不那么常见,并且可能会出现新的罪行和潜在的新形式的歧视。“

历史悠久的亚马逊联盟选举中的投票计数是在Bessamer,Al的历史悠久的。没有投票似乎是在早期的领导;施放了3,215个选票,或约55%的设施'符合5,800符合条件的工作人员。 (Lauren Kaori Gurley /副)

在法律申请中,Apple认为它“在游戏中没有垄断或市场力量”,因此史诗的索赔应被解雇。此外:“据苹果,史诗般的奥运会聘请2019年聘请媒体策略,致力于”项目自由“的媒体策略,旨在将苹果”作为坏人。“(Filipeespósito/ 9to5mac)

美国海关和边境保护支付了超过700,000美元的加密聊天App Wickr的许可证。此举显示美国法律实施如何取决于加密聊天,即使是顶级官员经常谴责端到端加密。 (约瑟夫考克斯/副)

至少14个渠道促进Qa​​non内容设法逃避YouTube的禁令,有些则运行广告。在星期三公布之后,其中七个被删除。 (亚历克斯Kaplan / MediaMatters)

宣传小组起诉Facebook未能有效地有效地警察反穆斯林仇恨言论。这样的诉讼似乎注定要失败,但是:“非营利组织穆斯林倡导者声称Facebook官员通过错误地承诺,本公司将删除其审核标准的内容,违反了当地的消费者保护法。” (David Yaffe-Bellany和Naomi Nix / Bloomberg)

Signal的移动加入加密货币是“一个令人难以置信的坏主意”,安全专家Bruce Schneier说。 “将加密货币添加到端到端加密的应用程序泥泞的产品的道德,并邀请各种政府调查和监管干预:由美国国税局,SEC,FINCEN,也许是FBI。” (施尼尔安全)

⭐全球芯片短缺变得如此糟糕,即使是Apple,甚至是其所有大规模采购能力,正在遇到Mac和iPad的生产延误。开始觉得我建立游戏PC的梦想只是不会发生今年。 (程婷芳和Lauly Li / Nikkei)

谷歌工程师旨在讲述她经理性骚扰的经验如何领导公司向她经理脱离本组织。另一个用于“小时不是你的朋友”文件。 (Emi Nietfeld /纽约时报)

Rachell Hofstetter的提升,更好地称为Valkyrae,对游戏玩家集体/生活方式品牌100洞穴的共同主人展示了炉子在传统娱乐中制作的进一步。集体价值高1.9亿美元,并有一项促进电影,电视和播客的新举措。 (亚历克斯Huggood /纽约时报)

印度的ShareChat筹集了5.02亿美元,估值公司为21亿美元。 Snap和Twitter参加了这一轮;该公司在该国禁令Tiktok为其本土克隆的房间禁令后,该公司已经飙升,称为Moj。 (Surabhi Agarwal /经济时报)

Facebook和Instagram遭受了临时停电。 没有关于原因的词。 (Kim Lyons /边缘) 持怀疑态度看社交应用中增强现实过滤器的兴起,特别是在年轻人中。 男孩主要用它们来获得乐趣; 女孩用它们来让自己感觉更美丽。 对于用户的自我意识,对长期效果的研究已经完成了很少的研究。 (Tate Ryan-Mosley / MIT Tech Review) 最好的雅虎答案。 “有一个咒语可以成为一个实际工作的美人鱼吗?” (伊丽莎白Lopatto /边缘)