人工大脑可能也需要睡眠。

2020-08-01 15:34:27

这就好像我们给神经网络提供了相当于一夜好觉的休息。

新墨西哥州洛斯阿拉莫斯,2020年6月8日--洛斯阿拉莫斯国家实验室(Los Alamos National Laboratory)的最新研究显示,没有人能说机器人是否会梦见电羊,但几乎可以肯定的是,它们需要一段时间的休息,其益处与睡眠给活着的大脑带来的益处类似。

洛斯阿拉莫斯国家实验室计算机科学家伊静·沃特金斯说:“我们研究尖峰神经网络,这是一个和活着的大脑学习得一样多的系统。”“我们对训练神经形态处理器的前景很感兴趣,这种方式类似于人类和其他生物系统在儿童发展过程中如何从环境中学习。”

沃特金斯和她的研究小组发现,在连续的无监督学习后,网络模拟变得不稳定。当他们将这些网络暴露在类似于活着的大脑在睡眠中经历的电波的状态下时,稳定性就恢复了。沃特金斯说:“这就好像我们给神经网络提供了相当于一夜好觉的休息。”

这一发现是在研究小组努力开发神经网络时产生的,这种神经网络与人类和其他生物系统学习看东西的方式非常接近。该小组最初在稳定接受无监督字典训练的模拟神经网络方面遇到了困难,这涉及到在没有先验例子可供比较的情况下对对象进行分类。

洛斯阿拉莫斯计算机科学家兼研究合著者加勒特·肯扬(Garrett Kenyon)说:“只有在试图利用生物上真实的、尖峰的神经形态处理器,或者试图理解生物学本身时,才会出现如何防止学习系统变得不稳定的问题。”“绝大多数机器学习、深度学习和人工智能研究人员从未遇到过这个问题,因为在他们研究的非常人工的系统中,他们拥有执行全局数学运算的奢侈,这些运算具有调节系统整体动态增益的效果。”

研究人员将将网络暴露在人造睡眠模拟环境中的决定描述为几乎是稳定网络的最后努力。他们对各种类型的噪音进行了实验,大致相当于你在调谐收音机时可能遇到的电台之间的静电。当他们使用所谓的高斯噪声波时,结果最好,这种噪声包括很大范围的频率和振幅。他们假设噪音模仿了生物神经元在慢波睡眠期间接收到的输入。结果表明,慢波睡眠在一定程度上可能是为了确保大脑皮层神经元保持稳定,不产生幻觉。

这些小组的下一个目标是在英特尔的Loihi神经形态芯片上实现他们的算法。他们希望,允许Loihi时不时地睡觉,将使其能够稳定地实时处理来自硅视网膜相机的信息。如果这些发现证实了人工大脑对睡眠的需求,我们很可能可以预期未来可能出现的机器人和其他智能机器也会有同样的情况。

沃特金斯将于6月14日在西雅图举行的女性计算机视觉研讨会上展示这项研究。

发表:在基于尖峰的稀疏编码模型中使用正弦调制噪声替代慢波睡眠实现稳定的无监督字典学习,CVPR Women in Computer Vision研讨会,2020-06-14(西雅图,华盛顿州,美国)。

洛斯阿拉莫斯国家实验室简介洛斯阿拉莫斯国家实验室是一家代表国家安全从事战略科学的多学科研究机构,由Triad管理,这是一个面向公共服务的国家安全科学组织,由其三个创始成员平分拥有:巴特尔纪念研究所(Battelle)、德克萨斯农工大学系统(TAMUS)和能源部国家核安全管理局的加州大学(UC)董事。

洛斯阿拉莫斯通过确保美国核储备的安全和可靠性,开发减少大规模杀伤性武器威胁的技术,以及解决与能源、环境、基础设施、卫生和全球安全相关的问题,来加强国家安全。