采访研究员卢克在情感传感AI的承诺和陷阱上，社会媒体试图将情绪表达转化为数据

情感A.I.，情感计算和人为情绪智能是创建TEC的所有领域，以了解，响应，测量和模拟人类情绪。希望如此努力运行这一努力，即投入的情感A.I.I.I。到2024年的916.7亿美元。一些例子揭示：汽车行业在算法中看到价值确定司机分散注意力和昏昏欲睡时。公司在算法中看到价值分析客户如何支持代理人的谈话和计算地将其指导成为更好的扬声器。研究人员使用A.I.-infused眼镜在患有自闭症的儿童中看到价值，以解释周围的人们传达的面部反应。

然而，不是每个人都微笑着情感传感A.I.实际上，强烈的批评是普遍性的，高调的争议是抓住头条新闻。例如，在访谈中使用情感检测和分析软件在面试中不公平地反对公司的相当大，以确定候选人的“就业成绩”。现在的AI研究所甚至呼吁禁止禁止情绪识别技术“在影响人们生活的重要决定中。”

我很高兴谈谈情感传感的承诺和陷阱。与卢克斯塔克，助理教授在西安达奥大学信息和媒体研究中的助理教授。多年来，卢克一直在研究这一话题，通过将面部识别技术与钚进行比较，并有一个令人兴奋的新书，并有一个令人兴奋的新书出来的麻省理工学院，命令情绪：从控制论历史的计算和人类感受到AI。除了作为研究道德问题的知名学者之外，卢克优先考虑道德行动。他最近拒绝了一个着名和有利可图的谷歌研究学者奖，作为与前谷歌员工Timnit Gebru和Margret Mitchell的团结一致的姿态。

Evan：比赛正在进行与情感传感的各种技术。我想要你的为什么现在正在发生，以及人们试图实现的人。但了解你的工作，潜水就会是一个错误的。你对使用软件来推断我们的情绪和核心想法来推断出这种野心的态度，就像有七个普遍情绪的重复断言一样。

卢克：与你谈论这个话题是如此愉快，埃文。请记住，涉及情绪A.I的公司只收集代理数据 - 部分描述我们复杂的情绪状态和反应的数据。我可能不必提醒任何人阅读我们对那个基本真理的对话！情绪同时由生理，心理，心理，文化和单独主观的现象学组成。没有单一可衡量的情绪反应元素会告诉你整个故事。哲学家Jesse Prinz称之为“零件问题”。

然后，我们的情绪反应本质上是人际的。根据定义，没有第三方，无论是社交媒体平台还是教育技术软件，都可以知道你在表达情感时的感受。人类已经开发了各种各样的文化特定的社会惯例，以使人际情绪表达更具可预测的。但是，艺术和文学的几千年明确明确我们不能，正如他们所说，知道别人的心脏。有些人发现事实积极安慰。其他人显然发现它令人沮丧。

Evan：这是一个迷人的比较。在日常生活中，误解可能是烦恼，恼怒，有时会产生致命的后果。但是，当给予文学表达时，我们可以从有点舒适的距离观察到相同的情况，这变得显着引人注目。误解是迷人情节变化和细致细节性研究的基础。在打火机方面，它也推动了很多喜剧。

卢克：对，以及对误区的解决，或者对为什么这些决议没有或无法发生的反映，驱动宣传 - 释放，从而减轻强烈或压抑的情绪。我在大学做了很多剧院。在随后用知名的物理计算从业者聊天时，我要求他们观察剧院方向和交互设计是非常相似的过程。物质媒体调制情感的社会表达，就像剧院的戏剧性惯例一样，这很长的数字技术。

卢克：在做论文研究的同时，我遇到的最有趣的历史鸽子之一就是“焦虑席位”。我想我在20世纪中期的报纸剪裁中看到了“他是在焦虑的座位上”，不知道它的意思。虽然，任何熟悉福音派宗教的人都会知道。焦虑的座位是教堂中的前线，那些特别渴望从传教士的脓肿，或迫使它寻求它，坐下来。这是会众和服务的情感遗址。

“情感技术以不完全赞赏的方式紧紧地绑在历史的黑暗面。”

事实证明，教会建筑和宗教实践中的这种特殊创新在1840年代开始在第二次大觉醒期间，美国的主要福音派复兴，产生了洗礼和其他类似的新教指数。这是“新措施”的一部分，这是故意改变服务如何进行服务，以使基督教更具情感和更多的“个人”。但越来越熟悉的新教传统非常持怀疑态度。他们称之为焦点“人力机械师”等策略 - 故意改变会众和传教士之间的权力动力。不确定这一项是将进入这本书。但是，在计算机之前，这是一组技术和技术的一个明确的例子。

为了使更大的一点更大，情感技术与历史的黑暗面紧紧地绑在历史的黑暗面上，这是不完全赞赏的。 Sechars等学者，如otniel Dror，Simone Browne，Sianne Ngai和Kyla Schuller Unpack如何对情绪表达的特定形式的社会适当性始终加强和永久性的力量的力量。例如，Dror的历史工作探讨了白人19世纪欧洲和美国医学家如何定居在心率或血压等情绪表达的生理代理上。因为这些代理是可量化的，他们提供了具有舒适语言的科学家，以讨论自己的感受以及别人的感受。这种量化的“情感 - 按号”允许男性科学家以他们没有感到女性化的方式与情感一起参与情感，因此在维多利亚时代的社会界别的等级中劣等。同样，NGAI的奖学金探讨了理解的特定类别，因为“丑陋”与种族化群体和种族主义层次进行相关。和西蒙布布尔的必备书，黑暗事项，将现代形式的生物识别监视与历史悠久的历史，训练和警务黑人体的活动和感受。

由于我们经常通过我们的面孔表达情感类别，因此几个世纪以来，这并不令人惊讶地推断出这些表达的一些更大，更长的真相。不幸的是，他们经常与权力不对称的人捆绑在一起，特别是白色科学家和政策制定者的历史趋势，以创造我刚刚描述的种族主义层次结构。膈宫学和地貌，第199末和第20世纪初期的信誉初期科学声称能够从外部生理标志推断出内部性状特征，当然是与情感表达着迷，作为与物理特征结合的自卑或优越性的信号。那些想法通过面部识别技术今天再次举起丑陋的头。但是，在这个空间中的研究人员是否意识到它，它们总是陷入困境的危险中陷入了地理位学谬误。

Evan：有时，研究人员犯了这个错误，因为他们对以下谬误的公式有信心：良好的意图加上尖端技术相同的社会有益结果。这种错位的理想主义驱动了各种天真的项目。它促进了危险的信念，如使用自动面部特征系统，使得在采访中能够更公平地对待少数候选人，因为创新超越了偏见。指出，偏见可以阻碍数据选择和分析，迅速导致一种解散的反应，表明问题只是暂时的，而不是难以解决。

卢克：意图与现实之间的这种差距让我们回到你关于所谓的普遍情绪的问题。面部情感分析的目前范式基于保罗·埃克曼的基本情感理论（下注）。 ekman是一个心理学家，他在20世纪70年代做了实验，他声称证明了一些事情：基本激励情绪有很多有限的情绪;这些情绪在世界各地的不同方式表达;而且，训练有素的人类观察者（或以后计算机）可以根据面部表情来检测某人的“真实”情感，即使他们试图隐藏它。这个想法启发了电视节目骗我！

在最近的一篇论文中，计算机科学家Jesse Hoey和我贯穿了一些组合关于不同形式的情绪表达的数据，包括面部分析，具有必要的情绪模型。心理学露丝leys的历史学家真的需要ekman的方法在她的2017年伍德斯的努力中上升。此外，心理学家Lisa Feldman Barrett和合作者可以得出相当愉快地显示自动化的面部情感分析并没有工作 - 结论是鉴于我早期关于情绪的固有多方面维度的观点并不令人惊讶。

Evan：自动化面部分析是基于有缺陷的假设，并且可以产生不准确的结果，为什么公司为努力倾注这么多努力和费用？

卢克：我们目前在情感传感的峰值兴趣的原因有一些原因。正如我所提到的那样，自19世纪末以来，当代模型和用于测量人类情感表达的代理的概念根源已经存在。从那时起改变的重要事情是技术能力。现在，很容易收集人们的大量数据，特别是通过我们的智能手机，计算机科学家想要理解这一切。

在硅谷也有一种迟来的实现，它需要一种了解人类社交互动的语言，以便技术公司可以继续利润并塑造它。虽然企业欲望是在“社区”和“联系”的感觉良好语言中，但实际上，这是一个寄生冲动，作为凯特克劳福德，几年前解释了社交媒体公司如何武器焚烧表情符号。

埃文：有趣！你能详细说明这一点吗？为什么情绪成为社交媒体公司的主导镜头，以了解我们如何互动的方式？你是说Facebook这样的公司是通过修辞伪装他们对理解我们的感受的兴趣来操纵公众吗？

卢克：它有点困惑，不是吗？当我试图在最近的推特线程中思考时，我相信它与情感更广泛的贪得而易的诽谤，也许，这可能是一种艰难的效果，这是技术力学的效果。这是一个看似遥远的，但是说明性的例子。我们最近有很多关于“自我审查”的问题，主要来自右翼评论员或右翼评论者或右派“中间人”。许多其他人已经准确指出，在大多数情况下，“自我审查”只是意味着不是口感的混蛋。但它看起来没有奇怪的是，在理论上是一个亲社会的美德，已经被转变为审查，至少是这群人？值得询问为什么可能是这种情况。

社会学家Eva Illouz认为，许多人越来越多地看到情感，或者更准确地说是人类情感的社会表达，作为身份的成分，作为我们真实自我的“真实”的表现。 Nazanin Andalibi和Justin巴士有一个最近的一份论文探索了人们对社交媒体的情感认可的态度，他们指出这些系统与个人自治的丧失有关。这对争议2014 Facebook实验的公众反应追踪，以操纵新闻邮票中积极和负面情绪语言的比例。一些沮丧的用户将情绪传染性研究描述为“心灵控制”。我认为它还追踪了我们对“性格”和“个性”的春天理解的历史历史，随着前者到后者的过渡是在所做的内在的内在的东西之间的转变。

我喜欢这种情绪现象的“情感表达”一词。术语情绪捕捉到妥善定义的情绪涉及相当多的认知反射，而不是基本不融入的行为反应。而且我也认为这种信仰在我们的数字化世界中的真实性茁壮成长，并被社交媒体平台的结构和商业模式鼓励，正是因为在所有复杂性中的情绪都很难完全获得技术手柄。社交媒体平台现在聘请了各种各样的人，这些人在我的西方同事艾莉森·奥尼森（Che Smericeiers）上创造的一个很好的术语：设计师，营销人员和经理，他们做出了将情绪化表达的工作中的工作进入AI-易读的数据。

除了一边，许多哲学和心理传统要求我们不要俘虏我们的情绪，当然，这并不意味着忽视它们。作为Kyla Schuller和其他人指出，情绪控制的想法有自己种族化的历史。但在目前的时刻，我们有贪得无体，主观体验和强烈的感觉表达而没有多大反思。

Evan：在重新工程人类中，Brett Frischmann和我将情感传染实验描述为Facebook的尝试，从而进一步侵蚀了我们的自主权。但是，我们的索赔与真实性无关。我们争夺公司可能会影响人们的感受，越大的力量就越多，他们就如何以及他们的想法。这是因为行动和认知是如此深受与情绪相连。毕竟，我们已经体现了众生。

卢克：我完全同意。然而，似乎在这里玩的悖论。人们可以同时感受到他们最真实的自我，同时以非常常见的或陈规定型的方式的情感，或者潜在地以最容易被跟踪并转变为可用的数据。我想解决悖论的一种方法是表示表达你的感受是真实性或自主的必要但不完整的一部分。在修辞中，亚里士多德着名着识别三种不同的方式来说服人们：通过对发言者的性格的吸引力，通过吸引听众的情感状态，或者通过吸引争论本身的逻辑。也许我们需要立即意识到我们的思想，感受和价值观。只是在这里吐痰。

Evan：除了早些时候拾起，这就是为什么在我和平课程的哲学中，我包括道德情绪和不公正的单位。我认为学生认为Amia Srinivasan认为，由于道德违规行为为生气的内在原因提供了内在的原因，“情感不公正”在人们，少数群体被迫选择转交道德适当的谴责和行动之间的批判性和行为之间发生。例如，在工作中显示道德愤怒是一个糟糕的绩效审查方式，也许被解雇。相关的是，我们讨论了Myisha Cherry的论点，即道德愤怒与某种类型的爱情（Agape）兼容。这种爱来自希望人们成为他们最好的自我，而不是被忽视相信他们在道德上优于他人，有权伤害劣等人和群体。

卢克：绝对。社会学家Eduardo Bonilla-Silva，在Bell Hooks的观察开始时，说了类似的东西。愤怒在连接到“曝光，治愈的自由和正义的激情”时可能有用，可能是可能的。“ Bonilla-Silva做了辉煌的工作，审问了现在的情绪种族经济。如果他们来自黑人或其他可见的少数群体，以及白人的情绪如何变为“真实”，那么它涵盖了一些形式的情绪表达仍然是惩罚的，以及“真实”，因此是无可争议的。这听起来像个伟大的课程。如何讨论那种物质的情况如何？

埃文：伟大！学生有许多聪明的事情可以说是否倾向于道德愤怒会产生失去透视和相称性的风险。他们理解道德愤怒可能对激励集体行动至关重要，但也可以是一个容易利用的脆弱性。

卢克：关于剥削的观点让我们回到我在参考哲学之前要去哪里。如果我们理解，也许是错误的，我们的感受是对自己最真实的事情，而且那种情感是表达我们感情的常规方式，是术语，就像审查一样。但是，让我们不要忘记通过数字平台的情绪表达也有利于社交媒体平台。它给出了内部一致的代理数据，就像Facebook反应图标提供的那样，这可以用于了解Facebook等网站上人之间的社会关系。我认为社交媒体公司不仅仅是他们对情感表达的兴趣来操纵舆论，这些都是他们对各种其他事情的舆论。这只是他们对像“社区”这样的词语定义，可以方便地适应他们正在做的分析以及他们渴望收集的数据。

卢克：还有一件事值得一提。情感与a.i的关联。还为技术公司提供了有用的话语功能。涉及人类创造的人造的投机小说叙述经常铰接在情绪上。我们对人为的众所周心，谁不能感受到，而应该能够，如Star Trek的Android，数据的情况一样。我们担心如果人为的感受失控，那么HAL 9000从2001年的HAL 9000：一个空间奥德赛。与玛丽谢尔利的弗兰肯斯坦一样，感受塑造了人造创造者的道德冠军的道德冠军。

换句话说，我们习惯于思考情绪和高级人为一般情报。当代狭窄的A.I.技术可以做任何事情。但如果人们相信目前的系统可以“感到同情”或类似的话，它会使技术公司受益。它同时告诉公众这些技术比实际更先进。它分散了这些系统的真正影响。

埃文：让我们转移我们的重点伤害。在讨论更具切实的方式之前，情感传感A.I.可以伤害人，我想问你内在的伤害。根据您在内在水平上表达伤害它们的问题假设，减少了减少人们的情绪的系统吗？

卢克：绝对！为了使用受后殖民理论的启发的术语，您可以将伤害作为“情绪化的帝国主义”之一。

卢克：这意味着c

......