简要介绍一下上下文:上周在人工智能中包括了一份每周人工智能新闻摘要的时事通讯、一个报道赛义德新闻的播客,以及评论这条新闻的社论。如果你订阅,我们会很高兴的!
TLDR:在OpenAI Cheif科学家Ilya Sutskever在推特上表示大型神经网络可能“稍微有意识”之后,AI推特和其他地方引发了一场激烈的辩论。虽然辩论是健康的,但它们忽略了更广泛的一点,即负责任的科学传播的必要性。这条长达一周的推文已经被许多流行sci文章引用为人工智能正在变得“有意识”的证据,鉴于萨茨基在OpenAI中的角色,这一牵强的说法将误导许多人。人工智能研究人员,尤其是那些拥有大量媒体追随者的研究人员,有责任准确地告知公众,或者至少避免误导公众。
上周三,OpenAI首席科学家Ilya Sutskever发布了上述推文,它立即成为热门话题。许多人工智能专家加入了“当前人工智能是否有意识?”在接下来的几天里进行了辩论。许多人驳斥了这一说法,认为当前神经网络结构的局限性及其使用的非实体化方式阻止了此类算法被认为是“有意识的”
鉴于这些负面反应,OpenAI首席执行官山姆·奥尔特曼为萨茨克的说法进行了辩护,但同时向所有人保证,他认为GPT-3,甚至GPT-4不会“以任何方式使用这个词”:
引用Sutskever的推文,许多媒体开始用以下标题报道这一主张:
值得赞扬的是,大多数文章确实引用了研究人员的话,他们驳斥了这一说法,并避免说人工智能是有意识的,只是因为萨茨克弗发了推特。尽管如此,这条推文所产生的炒作是言过其实的,如果一个不知情的公众获得了人工智能可能具有某种意识的错误印象,这一点也不足为奇。
除了直接辩论和媒体报道外,许多专家对社区的反应进行了评论。Bender教授在这方面有一个很好的思路(我们建议读者查看整个思路):
但并不是所有的反应都那么严重。人工智能推特(AI Twitter)在制作模因方面进行了一天的努力,对最初的推特和随后的争议都进行了取笑。以下是一些例子:
专家们基本上同意,目前的人工智能形式在任何意义上都是无意识的。虽然已经有很多关于“计算意识”的研究,或者一些可能被认为是有意识的东西是如何通过计算机实现的,但这些研究都是非常初步的,没有提供任何关于建造“有意识”机器的具体计划。现实是,我们对意识没有一个被广泛接受的定义,更不用说理解了。声称我们已经在计算机上复制了这样一个模糊的概念,充其量也不太可能。诚然,如果还规定了意识的特定定义,这种说法也可能是合理的。
Sutskever的推文被“断章取义”以产生炒作,正是这种炒作引发了辩论。Twitter不是进行细微讨论的地方,一条推文不可能传达出平衡、深思熟虑的人工智能意识所需的所有细节。此外,看看Sutskever过去的推文,很明显,它们不是严肃的宣言,而是零散的想法,这些想法本身是完全正确的。然而,鉴于Sutskever在OpenAI中的突出地位,这条推文的严重性被夸大,以建立有意识人工智能的炒作,这迫使其他人工智能研究人员谴责并澄清当前的人工智能没有意识。这场辩论让公众更多地关注了整个考验,或许具有讽刺意味的是,它进一步放大了最初的推文。
这一事件突显了对人工智能研究进行更负责任沟通的必要性。人工智能作为一个技术领域对炒作并不陌生,我们过去曾认为,该领域缺乏人工智能研究人员更细致、更冷静的沟通。问题不是Sutskever的随意推文;问题是,一个不熟悉人工智能的人很容易就因为一位著名的研究人员在推特上发表了一个温和的猜测而相信了一些不真实的东西。这一切都有助于在公众中建立对人工智能系统的不合理期望,进而误导公众情绪、流行文化和公共政策。正如俗话所说:拥有强大的(公共关系)权力,就意味着巨大的(公共传播)责任。我们希望更多的人工智能研究人员认识到这一点,并负责任地发推特。