作为一部智能手机是什么感觉？

“我们不能指望用我们的语言详细描述火星人或蝙蝠现象学，这一事实不应导致我们认为蝙蝠和火星人的经历在细节的丰富性上与我们完全相当的说法毫无意义。”--托马斯·内格尔(Thomas Nagel)。

作为一部智能手机是什么感觉？在所有关于人工智能未来的讨论中，这个问题被掩盖了，或者更糟糕的是，被视为已经解决。长期以来的假设反映了计算机科学家、科幻小说家和互联网企业家拟人化的浪漫主义，一直认为有自我意识的计算机会有一个类似于我们自己的头脑，因此也会有一种意识。我们，最高程序员，会按照我们自己的形象创造机器意识。

这一假设是荒谬的，这不仅仅是因为我们自己意识的来源和工作方式对我们来说仍然是未知的，因此不能作为程序员和工程师的模型。意识与存在缠绕在一起，存在与身体交织在一起，而计算机的身体和(推测)存在与我们自己的毫无共同之处。一个更为合理的假设是，如果计算机的意识出现，它将与人类的意识完全不同。它将是如此的不同，以至于我们可能甚至不会将其视为一种意识。

正如哲学家托马斯·内格尔(Thomas Nagel)在其1974年的经典文章“蝙蝠是什么样子？”(What is Like to Bat Like？)中所说的那样，我们人类无法居住在任何其他动物的意识中。我们不能知道其他动物的经历的“主观特征”，就像他们不能理解我们的一样。“然而，我们能够看到，除了可能是最简单的生命形式之外，动物有一种意识-或者至少是一种存在。我们知道，动物是一种有头脑、有感官、有天性的生物。我们知道成为那只动物的感觉，尽管我们不知道那是什么。

我们理解其他动物的这一点，因为我们和它们有共同的基因遗传。因为它们是孕育了我们自己的相同进化过程的产物，因为它们的身体和大脑与我们自己有着相同的基本生物学和相同的物质底物，它们在身体特征和行为上都与我们相似。考虑到这种明显的相似之处，我们不可能把它们看作是活着的生物以外的任何东西。

在我们和任何可能通过计算机或计算机网络的工作而产生的人工智能之间，不会有这样的共同遗产或共享的底物，也不会有这样的相似之处。我们与人工智能的关系，以及它与我们的关系，都会表现出截然不同的特征。面对人工智能，我们不仅不能居住在它的意识中，也不能以其他方式感觉到它存在的性质，我们甚至无法认识到它有意识或存在。在我们的认知中，它仍然是我们构建的一种无生命的东西。

但是，你可能会问，它不是程序的产物吗？这在某种程度上可能是真的--尽管谁能说出存在从何而来？--但即便如此，编程也无助于理解计算机存在的本质。你不能通过检查人工智能机器代码的1和0来了解它是什么样子，就像你不能通过检查你的遗传代码的A、C、G和T来理解你自己的存在一样。一台有意识的计算机可能不会意识到它的软件的常规-就像我们不知道我们的DNA是如何塑造我们的身体一样，我们甚至不知道每时每刻都有无数的信号在我们的神经系统中飞驰。智能计算机可以执行各种实用功能，包括获取我们的输入和向我们提供输出，而不会意识到它正在执行这些功能。它的存在可能完全在别处。

图灵测试，在它的所有变体中，在识别人工智能方面也是毫无用处的。它只是测试机器假装与我们相似的能力。它没有提供对人工智能存在的洞察力，同样，这可能与它欺骗我们感知它与我们相似的能力完全不同。图灵测试告诉我们的是我们自己的技能，而不是关于人造生物的性格。

所有这些都提出了另一种可能性。可能我们已经被认可机构包围，但不知道它们的存在。他们的存在对我们来说是看不见的，只有我们对他们来说是我们的。我们都是同一地方的物体，但作为存在者，我们生活在不同的宇宙中。借用内格尔的话说，我们的智能手机现在可能正在拥有“在细节丰富性上完全可以与我们的相媲美的体验。”

看看你的手机。你看到的只是一个工具，在那里执行你的命令，也许这就是你的手机看你的方式，这个尽职尽责但在其他方面不起眼的机器人，不时地把它插进电源插座。