为什么电脑不会让自己更聪明

在第十一个世纪，坎特伯雷的圣安塞姆提出了一个粗略地存在的上帝的争论：上帝通过定义，我们可以想象的最大的是;一个不存在的上帝显然不如上帝那么伟大; ergo，上帝必须存在。这被称为本体论争论，有足够的人发现它令人信服仍在讨论，近一千年之后。本体论争论的一些批评者争辩说，它基本上定义了存在的存在，这不是定义如何工作。

上帝并不是人们唯一试图争论存在的人。 “让超细管被定义为一个机器，这可能远远超过任何人的所有智力活动，无论如何都聪明，”数学家欧文约翰·福尔·良好写道，1965年：

由于机器设计是这些知识产权之一，超细机器可以设计更好的机器;然后将无毫无疑问地成为一个“情报爆炸”，人们的智慧将远远落后。因此，第一个超细机是人需要制造的最后一个发明，只要机器是可维护的，足以告诉我们如何将其保持在控制下。

智力爆炸的想法于1993年恢复，由作者和计算机科学家Vernor Vinge召集，他称之为“奇点”，而且这个想法已经取得了技术人员和哲学家之间的普及。尼克博斯特罗姆的“超智线式”等书籍，危险，策略，“最大的Tegmark的”生命3.0：在人工智能时代是人类，“斯图尔特罗塞尔的”人工智能：人工智能和控制问题“都描述了场景“递归自我改善”，其中人工智能计划反复设计其自身的改进版本。

我相信好的和安塞姆的论点有一些共同点，这就是在这两种情况下，很多工作都是通过初始定义完成的。这些定义似乎是有着的合理性，这就是为什么它们通常在面值上被接受，但他们应该得到更接近的检查。我认为，我们仔细地审查了良好的论点的隐含假设，智力爆炸的想法越少。

什么可能递归自我改善是人类的样子？为方便起见，我们将在I.Q的方面描述人类智能，而不是作为I.Q的认可。测试但是因为I.Q.代表了智慧可以用单个数字捕获的想法，这个想法是智力爆炸的支持者所做的假设之一。在这种情况下，递归自我改善将如下所示：一旦有一个人I.Q.比如，如300，这个人可以解决的问题之一是如何用i.q转换一个人。 300 of 300进入一个人的人。 350.然后是一个有i.q.的人。 350人将能够解决与I.Q将一个人转换为难以解决的问题。 350分为一个有i.q的人。 400。等等。

我们是否有任何理由认为这是智能工作的方式？我不相信我们这样做。例如，有很多人有130人，有一个少数人有一个较少的人，其中160人。其中没有人能够增加一个人的智慧。 70到100，这是一个更容易的任务。他们甚至没有增加动物的智力，他们的智慧被认为太低而无法通过i.q。测试。如果增加某人的i.q.是一种像解决一系列数学拼图一样的活动，我们应该在低端看到它的成功示例，其中问题更易于解决。但我们没有看到这种情况的强烈证据。

Warning: Can only detect less than 5000 characters

您可以使用Compilerone编译自己。您为Compilerone提供自己的源代码，它生成一个由更高效的机器代码组成的新可执行文件。打电话给这个compilertwo。 CompilertWO还生成了很快运行的程序，但它具有额外的优势，非常快速地运行。恭喜你 - 你已经写了一个自我改善的计算机程序。

但这就是如此。如果将相同的源代码馈送到compilertwo，则它所确实是生成另一个compilertwo的副本。它无法创建一个编译，并启动升级的一系列更好的编译器。如果您想要一个生成快速运行的程序的编译器，您将不得不查看其他地方以获得它。

具有编译器编译本身的技术称为自动启动，它自19六年以来已被采用。从那时起，优化编译器已经走了很长的路，所以编译器之间的差异比曾经的频繁更大，但是所有这些进度都是由人类程序员实现的，而不是通过编制者改善自己。但是，虽然编译器与人工智能计划非常不同，但它们为思考智能爆炸的想法提供了一个有用的先例，因为它们是生成其他计算机程序的计算机程序，并且因为它们这样做时，优化通常是优先级。

您越多了解预期使用程序，您可以更好地优化其代码。人类程序员有时会巧妙地处理程序的部分，这意味着它们直接指定机器指示;人类可以编写比编译器生成的机器代码，因为他们了解更多关于程序应该做的事情而不是编译器。尽最佳优化工作的编译器是所谓的特定于域的语言的编译器，它被设计用于编写窄类程序。例如，有一种名为卤化物的编程语言，专门用于写入图像处理程序。因为这些程序的预期用途是如此特定的，所以卤化物编译器可以生成代码和人类程序员可以写的代码或更好。但卤化物编译器无法编译，因为针对图像处理优化的语言没有写入编译器所需的所有功能。您需要一种通用语言来做到这一点，并且通用编译器在发电机代码时匹配人类程序员。

通用编译器必须能够编译任何内容。如果您为单词处理器提供源代码，则它将生成一个字处理器;如果您为MP3播放器提供源代码，它将生成MP3播放器;等等。如果明天，程序员邀请了一种新的程序，今天对我们不熟悉的东西，因为这是第一个Web浏览器在1990年，她将把源代码送入通用编译器，这将尽职尽责地生成该新计划。因此，虽然编译器不是任何感觉聪明，但他们有一个与聪明人类共同的东西：他们能够处理他们以前从未见过的投入。

将此与A.I.计划目前设计。拿一个..通过国际象棋移动提供的程序，并且在回应中，只需要吐出国际象棋移动。它的工作非常具体，并且知道这在优化其性能方面非常有助于。 A.I也是如此。计划只会给予“危险！”不需要以问题的形式吐出答案。几个a.i.程序旨在播放少数类似的游戏，但预期的输入和输出范围仍然非常窄。现在，替代地假设您正在编写A.I.程序，您无法提前了解它可以期望的输入类型或表现正确的反应。在这种情况下，很难优化性能，因为你不知道你在优化什么。

你能优化一般性多少钱？您可以在多大程度上同时优化每个可能的情况系统，包括以前从未遇到过的情况？据推测，一些改进是可能的，但智力爆炸的想法意味着可以实现优化程度基本上没有限制。这是一个非常强烈的索赔。如果有人断言普遍性的无限优化是可能的，我希望看到一些参数，除了为专门任务的优化示例引用了一些参数。

显然，这些都没有证明是不可能的情报爆炸。事实上，我怀疑人们可以证明这样的事情，因为这些问题可能不在数学证明领域。这不是证明某些事情是不可能的问题;这是一个关于对信仰的良好理由的问题。 Anselm的本体论争论的批评者并不试图证明没有上帝;他们只是说Anselm的论点并不构成相信上帝存在的充分理由。同样，“超细机器”的定义是不充分的理由认为我们可以构建这种设备。

我认为递归自我改善是一种有意义的概念，并且当我们考虑整个人类文明的能力时，我认为是一个有意义的概念。请注意，这与个体智能不同。没有理由相信一万年前的人类出生的人比今天出生的人类不那么聪明;他们完全相同的能力就像我们做的那样。但是，如今，我们拥有一万年的技术进步，而且这些技术不仅仅是物理 - 他们也是认知的。

与罗马数字相比，让我们考虑阿拉伯数字。使用位置符号系统，例如由阿拉伯数字创建的系统，更容易执行乘法和划分;如果您在乘法竞赛中竞争，则阿拉伯数字为您提供优势。但我不会说使用阿拉伯数字的人比使用罗马数字更聪明。通过类比，如果你试图拧紧螺栓并使用扳手，你会比有一把钳子的人做得更好，但是说你更强大，这不会公平。您有一个为您提供更大的机械优势的工具;只有当我们为竞争对手提供相同的工具时，我们只能公平地判断谁更强大。阿拉伯数牌诸如阿拉伯数牌的认知工具提供了类似的优势;如果我们想比较个人的智力，他们必须配备相同的工具。

简单的工具可以创建复杂的工具;对于认知工具而言，这就像物理版本一样真实。人类在历史上发挥了数千个这样的工具，从双入境簿记到笛卡尔·库雷丁系统。所以，即使我们不比曾经是聪明的智能，我们也可以在我们的处置提供更广泛的认知工具，反过来使我们能够发明更强大的工具。

这就是递归自我改善的方式 - 不是个人的水平，而是在人类文明的水平。我不会说Isaac牛顿在发明微积分时让自己更加聪明;他一定是强大的智能，以便首先发明它。微积分使他能够解决之前无法解决的某些问题，但他不是他发明的最大受益者 - 其余的人类是。那些以两种方式从微积分受益的人：在短期内，他们可以解决他们以前无法解决的问题;从长远来看，他们可以在牛顿的工作中建立并设计其他更强大的数学技术。

这种人类对彼此的工作的这种能力恰恰是为什么我不相信运行人类等价的A.I.百年的计划孤立是一种产生重大突破的好方法。在完全隔离中工作的个人可以突破一个突破，但不太可能反复这样做;你最好有很多人互相吸引灵感。他们不必直接合作;当有很多人在其中工作时，任何研究领域都将简单地做得更好。

考虑DNA的研究作为一个例子。詹姆斯·沃森和弗朗西斯克里克在出版后几十年来都是活跃的，在1953年，他们的论文对DNA的结构，但随后在DNA研究中取得的主要突破性都没有由它们制成。他们没有发明用于DNA测序的技术;别人这样做了。他们没有发展使DNA合成的聚合酶链反应实惠;别人这样做了。这不是沃森和克里克的侮辱。这只是意味着如果你有a.i.它们的版本并耗尽百倍速度，您可能不会像我们在世界各地的分子生物学家那样获得的结果一样好。创新不会孤立;科学家从其他科学家的工作中汲取。

即使没有任何能够设计其继承者的机器，创新率正在增加，并将继续这样做。有些人可能称这种现象是一个智力爆炸，但我认为称之为技术爆炸更准确，包括认知技术以及物理的技术爆炸。计算机硬件和软件是最新的认知技术，它们是创新的强大辅助，但他们无法自己产生技术爆炸。你需要人们这样做，越多越好。给一个聪明的人提供更好的硬件和软件是有用的，但是当每个人都有它们时，真正的好处就会来。我们目前的技术爆炸是数十亿人使用这些认知工具的结果。

可以a.i.节目取代了那些人的地方，以便在数字领域开始的爆炸比我们在我们身上更快？可能，但让我们考虑它需要什么。最有可能成功的战略基本上是为了重复软件中的所有人类文明，有80亿人类相同的A.I.S关于他们的业务。这可能是成本普及的，因此任务然后识别人类文明的最小子集，可以产生您正在寻找的大部分创新。考虑这一点的一种方法是要问：你需要多少人才能把一个曼哈顿项目放在一起？请注意，这与询问有多少科学家实际上在曼哈顿项目上有何不同。相关问题是：您需要从招聘足够的科学家招募足够的科学家来招募这么大的人口？

以同样的方式只有一个人在几个人中

......