大约六个月前,Twitter悄悄聘请了某人担任该平台对话安全产品的负责人。您可能认为负责Twitter上最困难的任务的人员将具有可预测的技能:多年在学术界,政治界和编程界的经验;难以理解的媒体墙;与exec套件紧密联系。你会错的。
取而代之的是,这位在Twitter上为用户安全带来创新且有点激进的新主意的女人是一个年轻的“激进企业家”,她花了近六年的时间经营一家初创公司,以帮助牧场主计划气候友好型放牧做法。现在,距PastureMap被收购仅半年后,克里斯汀·苏(Christine Su)是Twitter对话安全的高级产品经理,负责确保日常用户在线安全并在此过程中重新考虑平台的基本原理。
拥有MBA学位并拥有土地利用和农业硕士学位的女性似乎是一个奇怪的选择,但多年来,她一直对任务驱动的技术工作感兴趣。这促使她致力于PastureMap,然后决定加入Twitter。她说:“作为一名奇异的有色女性,在美国农村地区的科技领域是亚裔美国人,这种经历是非常相互交融的。我有很多在我想要更多安全性的空间中移动的经验。”在多年担心妹妹的安全(她是一名报道中东和现在中国的敏感话题的记者)以及她自己的安全之后,苏知道她想专注于为最脆弱的人们建立安全和包容性。
变革性和程序正义是Su打造安全Twitter愿景的基础。曾经激进的概念对以下观念提出了挑战:我们应该惩罚造成伤害的人,而提供另一种选择:修复已经造成的伤害并防止其再次发生的途径(变革的正义),以及一系列公平的规则首先,危害较小(程序正义)。变革性司法最近因其在解决大学校园中的性侵犯方面的作用而受到关注,并且它的一个版本已被新西兰的官方法律体系采用。多年来,学者和激进主义者一直认为,这些概念可以改变解决冲突的方式。
Su的目标位于有可能成为非常不同的Twitter的核心位置,如果它(而且仍然是一个非常大的条件)的话,该公司对过去一年一直在传达的变化持认真态度。多年来,边缘化群体中的妇女和人们已经在平台上记录了不成比例的虐待和骚扰,直到最近,Twitter并没有做出任何改变。它的内容规则停滞不前,一次又一次,人们报告了滥用被忽视而骚扰持续不减的情况。但是,Twitter屈服于最近的政治压力,对允许人们做什么和发表言论的更严格规则表达了明显的兴趣。
苏说,无论您监视,报告和缓和有害职位多少次,反动模型都无济于事,无法扭转已经对目标人员造成的损害或防止其再次发生。她解释说,因此,与其将注意力仅仅放在造成伤害的帖子上,她的团队带来的新功能将完全取决于用户控制,从而为人们提供了应对平台情况的多种功能。苏说:“目的不是要使整个世界成为一个安全的空间:这是不可能的。目的是使人民和社区拥有治愈自己,防止伤害并控制自己的工具。”
产品小组在上周的一次新闻发布会上描述了即将推出的音频视频群聊功能Spaces时,用户控件的外观可能有些线索。空间将使用户能够确定哪些人可以进入音频室以及谁可以讲话,并且该团队首先向女性和其他边缘化社区的人们推出该功能,以测试这些安全功能在实践中的有效性。
Su还列举了最近与选举有关的干预措施,以此作为从长远来看重新构想Twitter的方法的例子。例如,在团队评估其长期价值时,鼓励人们在重新发布内容之前先阅读内容的功能至今仍然保留。她说:“在过去的一年中,您已经看到Twitter愿意重新考虑其基本机制的意愿。”
对于Su来说,实施变革性司法意味着建立工具,为道歉,宽恕和降职创建私人途径(以某种方式,在获得编辑按钮之前,我们会道歉)。尽管她还没有确切描述私人道歉工具的工作方式,但它们旨在成为“人们可以在数字空间中随身携带的一套控件的一部分,并可以在情况允许时使用它们, “ 她说。
将这些想法付诸实践需要重新思考Twitter的骨骼,这是基于大量研究的结果。 “对话安全团队正在阅读很多东西,”当她试图解释与她一起工作的每个人如何在工作场所辩论中不断进行有关程序正义的领先研究时,她笑了起来。她说,这些想法植根于十多年的工作中。 “ Twitter有时间观察平台上的动态。当我到达时,已经有关于程序正义的深入文献评论。”她还很快赞扬推动这些想法的研究人员,其中许多人是Twitter最严厉的批评家之一。
如果成功的话,那么社交平台可以使道歉正常化的想法将是真正的变革。听起来似乎太古怪,难以置信,这就是问题所在。 Su对变革性司法的热情与Twitter对现实中的想法的承诺可能是两回事。 Su暗示即将使用的道歉工具的那天,设计师Maya Patterson宣称公司致力于使Spaces安全的承诺,Twitter推出了Fleets。头条新闻不言自明:“ Twitter用户说车队已经为骚扰做好了准备”,“ Twitter已为巨大的新内容审核问题做好了准备。”
因此,我向Su询问了她10年的用户安全构想以及它如何适用于Twitter总体计划。她说:“在最高层,我们所有人在Twitter上都坚定地致力于同一使命,即为公众对话服务,这是我直到来到这里才完全意识到的事情。” “我希望看到更多的同情心和更多的体贴融入Twitter在基本层面上的运作方式。”
她对整个过程中的所有负面反馈有何感想? “反馈是一种礼物。而Twitter上的反馈是一种礼物。” Su说,虽然在个人层面上被告知“我希望您将计算机扔进垃圾桶”可能会在精神上消耗大量精力,但这仍然是一个信号。
对话安全团队在接下来的几年里有了很大的构想,并且正在努力实现这一目标。她说:“我们需要获得所有可能的帮助,因此,我很高兴这篇文章问世。” Su目前正在为其机器学习团队招聘人员,该团队正在建立模型,以确定可以将Twitter用户视为有意义的对话的模型。她说:“赌桌赌注是安全,但我们还想帮助定义什么是有意义的对话。”
尽管有种种批评,苏坚称Twitter上的每个人都了解投资安全的重要性。如果没有别的,Twitter可以指向雇用Su这样的人及其增长计划以证明其承诺。她说:“我们必须解决这个问题,以便进行深入的对话。”