新的学习算法可以扩展AI的应用

2020-07-18 10:08:40

人工神经网络学习活动的高能耗是广泛使用人工智能(AI)的最大障碍之一,特别是在移动应用中。可以从有关人脑的知识中找到解决该问题的一种方法。

尽管它具有超级计算机的计算能力,但仅需20瓦,仅相当于超级计算机的能量的百万分之一。

原因之一是大脑神经元之间的信息有效传递。神经元向其他神经元发送短的电脉冲(尖峰),但为了节省能量,仅在绝对必要的时候才会发生。

基于事件的信息处理

由TU Graz的两位计算机科学家Wolfgang Maass和Robert Legenstein领导的工作组在开发新的机器学习算法e-prop(e-propagation)时采用了这一原理。

也是欧洲灯塔计划“人脑计划”的一部分的理论计算机科学研究所的研究人员使用其模型中的峰值来实现人工神经网络中神经元之间的通信。

尖峰仅在网络中的信息处理需要它们时才变为活动状态。对于这种不太活跃的网络,学习是一个特殊的挑战,因为需要更长的观察时间才能确定哪些神经元连接可以改善网络性能。

先前的方法学习成功率太低或需要巨大的存储空间。现在,E-prop通过从大脑复制的分散方法解决了这个问题,其中每个神经元在所谓的e-trace(合格跟踪)中记录何时使用其连接。该方法与最佳和最详尽的其他已知学习方法一样强大。详细信息现已发表在科学杂志《自然通讯》上。

在线而不是离线

使用当前使用的许多机器学习技术,所有网络活动都集中存储和脱机存储,以便跟踪每几个步骤在计算过程中如何使用连接。

但是,这需要在内存和处理器之间进行恒定的数据传输,这是当前AI实现过多能耗的主要原因之一。另一方面,e-prop可以完全在线运行,即使在实际操作中也不需要单独的内存,从而使学习更加节能。

神经形态硬件的驱动力

Maass和Legenstein希望e-prop将推动新一代移动学习计算系统的开发,该系统不再需要进行编程,而是根据人脑模型进行学习,从而适应不断变化的需求。

目标是不再让这些计算系统专门通过云来进行能源密集型学习,而是将大部分学习能力有效地集成到移动硬件组件中,从而节省能源

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。