这是我2017年12月在莱比锡第34届混沌传播大会上的主旨演讲文本。
摘要：我们现在生活在昨天的未来，这与我们的作者和影视制片人的猜测完全不同。作为一名职业科幻小说家，我对我们对未来的预测如何出错以及为什么会出错非常感兴趣，这样我就可以避免重复同样的错误。科幻小说是由一个社会中的人们写的，他们的期望和政治假设让我们倾向于看新技术的光辉表面，而不是问人类将如何使用它们，把对进步的叙述当做表面价值，而不是问它们服务于什么隐藏的议程。
在这场演讲中，作家查尔斯·斯特罗斯将漫无边际地、漫无边际地、愤怒地讲述21世纪出了什么问题，为什么我们没有预见到它的到来，我们可以期待它下一步会在哪里发生，以及一些如果我们不喜欢它该怎么做的建议。
早上好。我是查理·斯特罗斯，为了钱撒谎是我的工作。或者更确切地说，我写的是科幻小说，其中大部分是关于我们不久的将来的，这在最近几年变得非常难以预测。
我们的物种，智人，大约有30万年的历史。(最近的发现将我们最早遗骸的日期推后了这么久，我们可能会更老。)。在这段时间里，除了最后三个世纪，预测未来是很容易的：撇开自然灾害不谈，50年后的日常生活将与50年前的日常生活相似。
让我们暂时意识到这一点：对于99.9%的人类生存来说，未来是静态的。然后发生了一些事情，未来开始发生变化，变化越来越快，直到我们走到今天，事情发展得如此之快，以至于几乎不可能预测每月的趋势。
正如一位著名的计算机科学家曾经说过的那样，计算机科学并不是关于计算机的，就像天文学是关于建造望远镜一样。我的工作领域也是如此，写科幻小说。科幻小说很少是关于科学的，更不是关于预测未来的。但有时我们会涉足未来主义，最近变得非常困难。
当我在不久的将来写一部小说时，有一套，比方说，十年后，曾经有一种食谱效果出奇地好。简而言之，未来十年90%的东西今天已经在这里了。建筑物的设计寿命是很多年的。汽车的设计寿命约为十年，因此到2027年，道路上行驶的汽车可能有一半仍在使用。各位。将会有新面孔出现，年龄在10岁及以下，一些年长的人会去世，但大多数成年人还会活着，尽管他们年龄更大，头发也更白了。这是不久的将来已经在这里的90%。
除了已经达到的90%，十年后未来的9%曾经是很容易预测的。你看看由物理限制决定的趋势，比如摩尔定律，再看看英特尔的路线图，然后运用一些创造性的推断，你就不会走得太远。如果我预测2027年LTE手机将无处不在，5G将可用于高带宽应用，卫星数据服务将有偿提供，你不会嘲笑我的。这不像我预测的那样，客机会飞得更慢，纳粹会接管美国，是吗？
这就是问题所在：正是1%的未知未知数打乱了所有的计算。碰巧的是，今天的客机比20世纪70年代要慢，不要让我开始谈论纳粹。2007年没有人预料到2017年纳粹会复兴，对吗？(只有这一次，德国人可以成为好人。)。
我的小说食谱设定在十年后，过去已经有90%-这里，9%还没有-这里-但可以预测，还有1%是谁订购的。但不幸的是，这一比例已经发生了变化。我认为我们现在已经降到了大约80%-这里-气候变化对基础设施造成了巨大的损失-然后不是15%-这里还没有-但可以预测，以及高达5%的完全不可预测的深度疯狂。
你们中的一些人可能会认为，作为奇点天空(Singulity Sky)和加速行动(Accelerando)等书的作者，我将此归因于一个迫在眉睫的技术奇点，归因于我们自我完善的人工智能和思维上传的发展，以及雷·库兹韦尔(Ray Kurzweil)等人推动的跨舒马主义抱负的整个愿望清单。不幸的是，情况并非如此。我认为跨舒马主义是一种狂热的基督教异端邪说。虽然它的追随者往往是狂热的无神论者，但他们无法完全摆脱催生我们当前西方文明的历史。你们中的许多人都熟悉设计模式，这是一种专注于抽象和简化以促进可重用代码的软件工程方法。当你把人工智能的奇点作为一种叙述来看待，并找出故事中的许多地方，其中短语#34；。然后奇迹发生了，很快就会很明显，他们重塑了基督教。
事实上，今天的跨舒马主义者的源泉借鉴了俄罗斯宇宙主义哲学悠久而丰富的历史，俄罗斯东正教神学家尼古拉·费奥多维奇·费德罗夫(Nikolai Fyodorvitch Federov)就是一个例子，他的弟子康斯坦丁·齐奥尔科夫斯基(Konstantin Tsiolkovsky)从火箭方程式的推导使他基本上成为现代航天之父。一旦你开始探索跨舒曼主义思想的阴暗面，遇到像Roko‘s Basilisk这样的概念-顺便说一句，你们中任何一个以前不知道蛇怪的人现在注定要在人工智能地狱里永生-你会意识到他们已经破坏了它，以便与前新教中一些最肮脏的想法相匹配。(顺便说一句，你们中任何一个以前不知道蛇怪的人现在都注定要在人工智能地狱里永远呆下去)，你会意识到他们破坏了它，以迎合前新教中一些最肮脏的想法。
如果它走路像鸭子，叫起来像鸭子，那么它很可能是一只鸭子。如果它看起来像一种宗教，那么它很可能就是一种宗教。我没有看到太多证据表明，现在任何时候都会出现类似人类的、自我导向的人工智能，而且有相当多的证据表明，除了大学认知科学系的一些怪胎之外，没有人想要它。相反，我们得到的是自我优化的工具，这些工具违背了人类的理解，但实际上并不更像我们的智能，就像波音737不像海鸥一样。因此，我将毫不费力地将奇点作为一种解释模型置之不理--我也是那些狂热的无神论者之一--并试图为发生在我们身上的事情想出一个更好的模型。
正如我的科幻作家肯·麦克劳德(Ken MacLeod)喜欢说的那样，科幻小说的秘密武器是历史。粗略地说，历史就是对过去人们做了什么和如何做事情的书面记录-那些已经从我们个人记忆中溜走的时代。我们科幻小说家倾向于把历史当作一个巨大的玩具箱，每当我们想讲故事的时候就会突袭。只要了解一点历史，就很容易编出一个有趣的故事，讲述一个反映哈布斯堡帝国发展和衰落的银河帝国，或者把十月革命重新编排成火星是如何获得独立的故事。
事实证明，我们的个人记忆根本不会跨越很长时间。我今年53岁，几乎不记得20世纪60年代了。我只记得20世纪70年代一个6-16岁的孩子的眼睛。我的父亲去年去世，享年93岁，他大概还记得20世纪30年代。只有我父亲这一代人能够直接记住大萧条，并将其与2007/08年的全球金融危机直接相提并论。但西方人往往不太注意九十多岁的人讲的警示故事。我们现代的、痴迷于改变的人类往往会重复我们最大的社交错误，当它们从我的生活中溜走时
因此，如果我们的个人记忆毫无用处，那么现在是我们寻找更好的认知工具包的时候了。
历史给了我们一个视角，让我们看看过去出了什么问题，寻找模式，并检查这些模式是否适用于现在和不久的将来。特别是回顾过去200-400年的历史-这是一个变化越来越快的时代-与之前三千个世纪的规范有一个明显的背离-是人工智能的发展，它发生在不早于1553年，也不晚于1844年。
当然，我说的是非常古老、非常缓慢的人工智能，我们称之为公司。我们可以从这家公司的历史中吸取什么教训，告诉我们今天我们都感兴趣的这类人工智能可能的行为？
18世纪末，第一本英文公司法专著的作者斯图尔特·基德(Stewart Kyd)将公司定义为：
由许多个人组成的团体，在一个特殊的宗派下，以人为的形式永久延续，并根据法律的政策，在几个方面具有作为个人行事的能力，特别是作为个人接受和授予财产、承包义务、起诉和被起诉、共同享有特权和豁免权，以及行使各种或多或少广泛的政治权利，这些权利或多或少地根据其制度的设计或在其创建时或在任何时候被赋予它的权力而定，并可作为个人行事，尤指接受和授予财产、订立合同义务、起诉和被起诉、共同享有特权和豁免权，以及行使各种政治权利，其范围或多或少取决于其制度的设计或所授予的权力，无论是在其创建之时，还是在任何时候。
1844年，英国政府通过了“股份公司法”，设立了公司登记簿，并允许任何法人付费注册公司，公司作为单独的法人存在。随后，法律被延伸到限制个人股东在企业倒闭时的责任，德国和美国都在我们今天所看到的公司法人资格原则上增加了自己独特的延伸。
(当然，在16世纪和21世纪之间发生了许多其他事情，改变了我们生活的世界的形状。由于能源经济，我跳过了农业生产力的变化，这最终打破了我们的前辈生活的马尔萨斯陷阱。这反过来又打破了长期的经济增长上限，即在没有饥荒、瘟疫和战争的情况下，每年约0.1%的经济增长，使领土人口减少，并为殖民侵略者让路。我跳过了疾病的细菌理论，以及帆船和火药时代贸易帝国的发展，这些都是由于精确时间测量的进步而成为可能的。我已经跳过了支撑西方殖民主义和奴隶贸易的有害的科学种族主义理论的兴起和衰落(希望如此)。我跳过了女权主义的兴起，跳过了认为女性是人而不是财产的思想立场，也跳过了父权制的衰落。我跳过了整个启蒙运动和革命时代！但这是一个以技术为中心的国会，所以我想从人工智能的角度来框定这次演讲，我们都喜欢认为我们理解这一点。)。
以下是关于公司的问题：它们显然是人造的，但从法律上讲，它们是人。他们有目标，并在追求这些目标的过程中运作。它们有一个自然的生命周期。上世纪50年代，标准普尔500指数成分股中一家典型的美国公司的寿命为60年，但如今已降至不到20年。
企业是食人族，它们互相吞噬。它们也是蜂巢超级有机体，就像蜜蜂或蚂蚁一样。在他们最初的一个半世纪里，他们的内部操作完全依赖于人类员工，尽管他们在本世纪越来越快地实现了业务流程的自动化。每个人只有在能够完成分配给他们的任务，并可以被另一个人取代的情况下才会被保留下来，就像我们身体里的细胞在功能上是可以互换的一样(在极端情况下，一组细胞通常可以被假肢取代)。在某种程度上，公司可以接受培训，为首席执行官的个人愿望服务，但正如哈维·温斯坦(Harvey Weinstein)几个月前所发现的那样，如果首席执行官的活动损害了公司，即使他们也可以免职。
最后，我们今天的法律环境是为方便法人而不是为人类量身定做的，以至于我们的政府现在在许多内部结构上模仿公司。
埃隆·马斯克(Elon Musk)-我相信你们都听说过他-对人工智能的一个特殊危险-他认为这是一款功能就像盒子里的大脑的软件-有一种痴迷的恐惧，那就是回形针最大化。回形针最大化是一个艺术术语，指的是只有一个优先事项的寻找目标的人工智能，例如最大化宇宙中回形针的数量。回形针最大化装置能够在追求这一目标的过程中自我改进，但没有能力改变其目标，因此它最终会尝试将太阳系中的所有金属元素转换成回形针，即使这显然不利于设计它的人类的福祉。
不幸的是，马斯克没有给予足够的重视。想想他自己的公司吧。特斯拉是一个电池最大化装置-电动汽车是一个有轮子和座椅的电池。SpaceX是一种轨道有效载荷最大化工具，它降低了太空发射的成本，以鼓励其提供的服务获得更多销售。太阳城是一款光伏电池板最大化产品。诸若此类。马斯克自己的三家非常缓慢的人工智能机构都是基于一种旨在最大化股东投资回报的架构，即使这样做会让股东赖以生存的星球变得更加糟糕。(但如果你让埃隆·马斯克复出，那也没问题：你计划在火星上退休。)。
企业的问题是，尽管它们的公开目标-无论是制造电动汽车、啤酒还是销售人寿保险-但它们都受到工具趋同的影响，因为它们都有一个共同的隐含的回形针最大化目标：创造收入。如果它们不赚钱，它们要么被更大的捕食者吃掉，要么就会破产。赚钱是一个工具性的目标--对于他们来说，它就像呼吸对于我们哺乳动物一样至关重要，如果不去追求它，他们将无法实现他们的最终目标，无论最终目标是什么。公司通常追求其工具性目标--尤其是收入最大化--作为追求其公开目标的副作用。但有时他们会试图操纵他们经营的监管环境，以确保资金无论如何都会流向他们。
随着时间的推移，人类工具制造文化变得越来越复杂。新技术总是伴随着寻求扩大其使用的隐含的政治议程，政府的反应是立法控制技术，有时我们最终会让行业沉迷于法律决斗。
例如，以汽车为例。没有加油站和燃料分配管道，你就不能进行大规模的汽车运输。这些反过来又需要接触到任何拥有石油开采土地的人-在你意识到这一点之前，你最终会在伊拉克拥有一支永久占领军，并在沙特阿拉伯建立一个附庸独裁政权。在离家更近的地方，汽车暗示着乱穿马路的法律和酒后驾车的法律。它们影响了城市规划法规，并鼓励郊区蔓延，按照汽车而不是行人所需的规模建设人类基础设施。这反过来又不利于与之竞争的交通技术，如公共汽车或有轨电车(它们在人口密度高的城市工作得最好)。
为了使这些法律到位，提供一个有利于做生意的环境，企业在政治游说者身上花钱-当他们可以逃脱惩罚的时候，再花钱行贿。当然，贿赂不必是明目张胆的。例如，20世纪60年代英国铁路网的改革肢解了许多分支服务，与道路建设和汽车销售的激增不谋而合。这些改革是由交通部长欧内斯特·马普尔斯(Ernest Marples)策划的，他纯粹是一名政治家。然而，马普勒斯在此期间通过拥有一家高速公路建设公司的股份积累了可观的个人财富。(所以，那里没有利益冲突！)
与世隔绝的汽车业并不是一个纯粹的回形针最大化者。但是，如果你把它与化石燃料行业、道路建设行业、事故保险行业等等结合起来看，你就会开始看到一个曲别针最大化的生态系统的轮廓，这个生态系统入侵偏远的土地，碾碎，每年导致大约150万人死亡-这是根据世界卫生组织(World Health Organization)的全球汽车事故死亡人数：它正在持续地与第一次世界大战相媲美--这是它向你推销新车的努力的副作用。
当然，汽车并不是完全的负债。如今，为了安全起见，从理论上讲，为了减少有毒物质的排放，对汽车进行了严格的监管：它们速度快、效率高、舒适性好。当然，我们可以感谢法律规定的这一点。早在20世纪70年代，汽车就没有褶皱区域。回到20世纪50年代，汽车没有标准的安全带。在20世纪30年代，四个轮子上的指示器-转向灯-和刹车都是可选的，你在50公里/小时的撞车事故中幸存下来的最大希望是被抛出车外，降落在某个地方，而不会摔断脖子。监管机构是我们当前政治制度的首选工具，用来防止回形针放大者肆无忌惮。但不幸的是，它们并不总是有效的。
您应该知道的一种失败模式是监管捕获，在这种模式下，监管机构由其控制的行业捕获。刚刚投票取消网络中立规则的美国联邦通信委员会(Federal Communications Commission)主席阿吉特·派(Ajit Pai)曾担任威瑞森通信公司(Verizon Communications Inc)的副总法律顾问，该公司是贝尔电话系统垄断目前最大的后代。为什么在一家科技公司中拥有明显利益的人最终要负责该公司所在行业的监管机构？嗯，如果你要监管一项高度复杂的技术，你需要从那些了解它的人中招募你的监管者。不幸的是，这些人中的大多数都是业内人士。阿吉特·派(Ajit Pai)显然非常清楚Verizon是如何受到监管的，并希望为此做些什么-只是不一定符合公众利益。当监管机构最终由来自他们本应控制的行业的人组成时，他们往往会与以前的办公室合作，以使盈利变得更容易，要么提高门槛，将新的叛乱公司拒之门外，要么拆除保护公众的保障措施。
另一种失败模式是监管滞后，当一项技术进步如此之快，以至于法规在发布时已经过时得可笑。考虑一下欧盟要求在网站上发布cookie通知的指令，提醒用户他们的活动被跟踪，他们的隐私可能会受到侵犯。如果它在1993年或1996年出现，那将是一个好主意，但不幸的是，它直到2011年才出现，那时的网络要复杂得多。到那时，与cookie无关的指纹识别和跟踪机制已经很普遍了。蒂姆·伯纳斯-李(Tim Berners-Lee)在1995年观察到，在现实世界中，每12个月的时间里，网络上就会发生价值5年的变化；按照这个标准，饼干法律的出台晚了近一个世纪，没有做任何好事。
再来看看优步(Uber)。本月，欧洲法院裁定优步是一项出租车服务，而不仅仅是一款网络应用。这可以说是正确的；问题是，优步自八年前成立以来就在全球范围内扩张，补贴其司机将Comp。
.