你想要一个意识吗？

人们经常问我是否最终会被意识到人为的人工智能。我的回复是：你想要它有意识吗？我认为它在很大程度上取决于我们我们的机器是否会醒来。

这可能会听起来不断。意识的机制 - 我们对世界上具有生动和直接经验的原因，以及自我是神经科学的未解决的谜团，有些人认为他们总是会这样做;使用客观的科学方法似乎无法解释主观经验。但在25年左右的年度，我们认为意识是科学审查的目标，我们取得了重大进展。我们发现了与意识相关的神经活动，我们更好地了解行为任务需要有意识的意识。我们的大脑潜意识地执行许多高级认知任务。

意识，我们可以追求得出结论，不是我们认知的必然副产品。 AIS也可能是真的。在许多科学小说故事中，机器自动发展内心的生命，只要凭借他们的复杂性，而且它是可能的，即意识必须明确地设计成他们。

我们拥有稳固的科学和工程原因，试图这样做。我们对意识非常无知是一个。第18世纪和19世纪的工程师们没有等到物理学家在制造蒸汽机之前对热力学的定律进行了分类。它逐渐努力：发明推动了理论。所以今天。关于意识的辩论往往过于哲学，在圈子周围旋转，而不会产生切实的结果。我们对人工意识工作的小社区旨在通过执行来学习。

此外，意识必须对我们有一些重要的功能，否则进化不会赋予我们。相同的功能将用于AIS。在这里，科幻小说可能会误导我们。对于书籍和电视节目中的AIS，意识是诅咒。他们表现出不可预测，故意的行为，事情对人类并不好。但在现实世界中，戴斯托邦方案似乎不太可能。无论AIS可能姿势如何姿势都不依赖于他们的意识。相反，有意识的机器可以帮助我们管理AI技术的影响。我宁愿与他们共享世界，而不是与无思想的自动化。

当alphago对阵人类的冠军时，李塞托尔，许多专家想知道为什么alphago扮演它所做的方式。他们想要一些解释，对alphago的动机和理由的一些理解。这种情况对于现代AIS是常见的，因为他们的决定并不被人类预编程，而是学习算法的紧急属性和他们接受培训的数据集。他们的拒绝是对不公平和任意决定的担忧。已经存在算法的情况;例如，去年的Propublica调查发现，佛罗里达州法官和假释官员使用的算法标记为比其实际的常压更容易导致累犯，而白人被告比其实际不太容易忽视。

从明年开始，欧洲联盟将为居民提供合法的“解释权”。人们将能够要求为什么AI系统做出决定的核算。这种新要求在技术上要求苛刻。目前，鉴于当代神经网络的复杂性，我们难以辨别到AIS如何产生决策，远低于将过程翻译成人类可以理解的语言。

Warning: Can only detect less than 5000 characters

这些例子表明，意识的函数是扩大世界上的时间窗口 - 给目前的时刻延长持续时间。我们的有意识意识领域在刺激不再存在后，在一段时间内以灵活的可用形式维护感官信息。当没有再直接感觉输入时，大脑在不再产生感官表示。可以凭经验测试意识的时间元素。 Francis Crick和Christof Koch提议我们的大脑只使用我们视觉输入的一小部分来规划未来的行为。如果规划是其关键功能，只有此输入应与意识相关。

这些示例的一个共同线程是反事实信息生成。它是生成不直接在我们面前的感官表示的能力。我们称之为“反事实”，因为它涉及过去或预测未执行未来的未来行动的记忆，而不是外在世界中发生的事情。我们称之为“代”，因为它不仅仅是关于信息的处理，而且是假设创建和测试的积极过程。在大脑中，当它从低级脑区流到高级或“馈电”过程时，感觉输入将传感输入压缩到更多抽象表示。但是神经生理学研究表明，这种前馈扫描，无论是复杂的，都没有与有意识的经历相关。为此，您需要从高级到低级区域的反馈。

反事实信息生成允许有意识的代理从环境中分离自己并执行非反射行为，例如在演戏前等待三秒钟。为了产生反事实信息，我们需要有一个内部模型，这些模型已经了解了世界的统计规则。这种模型可用于许多目的，例如推理，电机控制和精神仿真。

我们的AIS已经有了复杂的培训模式，但他们依靠我们给他们数据来学习。通过反事实信息生成，AIS将能够生成自己的数据 - 以想象他们自己提出的可能期货。这将使他们能够灵活地适应他们之前没有遇到的新情况。它也会有好奇心提供AIS。当他们不确定未来会发生什么，他们想象，他们会试图弄清楚。

我的团队一直在努力实施这种能力。但是，当我们觉得我们创建的AI代理商出现意外行为时，已经存在了一切。在一个实验中，我们模拟能够通过景观驾驶卡车的代理。如果我们希望这些代理商爬山，我们通常必须将其作为目标，而代理商会找到最好的途径。但是赋予了好奇心的代理人认为山是一个问题，并弄清楚如何爬出它，即使没有被指示这样做。我们仍然需要做一些更多的工作来说服自己的东西正在进行中。

如果我们认为以反思和想象力为意识的两个成分，也许甚至是主要的，也可能是不可避免的，我们最终会召唤一个有意识的AI，因为这些功能对任何机器都很有用。我们希望我们的机器解释如何以及为什么他们做的事。建造这些机器将锻炼自己的想象力。这将是对意识反应力的最终测试。

Ryota Kanai是神经科学家和AI研究员。他是Araya的创始人兼首席执行官，旨在了解意识的计算基础并创造意识的AI。 @Kanair.

这个故事最初标题为“我们需要有意识的机器人”，首先出现在2017年4月的“意识”问题中。