重新发明计算机:后摩尔时代的大脑启发计算!

引言

根据美国物理联合会官方网站最近的一份报告,来自美国雷恩神经物理学和惠普实验室的研究人员已经将重点放在推进大脑启发神经形态计算所需的核心技术上,并提出了一种由数字架构和模拟架构组成的混合架构

背景

1947年,贝尔实验室成功演示了第一个基于锗半导体的点接触晶体管晶体管的出现标志着现代半导体工业的诞生和电子信息时代的开始。它也被认为是20世纪最重要的发明之一。

摩尔庄

各种型号的晶体管(图片来源:维基百科)

自从晶体管诞生以来,科学家们一直致力于缩小晶体管的尺寸,以便越来越多的晶体管可以容纳在一个芯片上。自从集成电路技术出现以来,可以容纳在指甲大小的微芯片上的晶体管数量变得非常大。摩尔定律描述了

的趋势:“当价格不变时,集成电路上可容纳的晶体管数量大约每18个月就会增加一倍,性能也会增加一倍。”

摩尔庄

摩尔定律-集成电路芯片上的晶体管数量(1976-2016)(图片来源:维基百科)

然而,随着晶体管尺寸接近5纳米,我们将面临新的问题,如“量子隧道效应”也就是说,电子不再受欧姆定律的约束,而是穿过它们无法穿过的屏障,导致集成电路中的泄漏,并使晶体管变得不可靠。此外,随着集成在单个芯片上的晶体管数量的增加,由电荷引起的发热问题将变得更加严重,从而影响芯片的处理速度和性能。这些问题严重阻碍了电子设备的小型化

下图显示了摩尔定律(晶体管/面积)、生成数据(计算要求)和计算效率随年份变化的比较。自2008年以来,尽管摩尔定律和对计算机技术的需求持续增长,但计算效率的增长却显著放缓,形成了一个需要新技术来填补的“计算鸿沟”。虽然摩尔定律继续增长,但它不再给计算机技术带来相应的好处。实心圆是数据,虚线是线性拟合(在对数坐标系上)

摩尔庄

(图片来源:参考文献[1])

创新

在本周发表在《应用物理评论杂志》上的一篇论文中,雨神经形态学的杰克·肯德尔和惠普实验室的苏哈斯·库马尔对计算机技术进行了全面深入的研究,重点是推进大脑启发的神经形态计量计算所需的操作功能。他们提出了一种混合架构,由数字架构和复活的模拟架构组成,由忆阻器实现。忆阻器是一种具有记忆功能的电阻器,它可以在存储信息的地方直接处理信息。

Kumar说:“计算机技术的未来将不再是在芯片中插入更多的组件,而是从头开始重新思考处理器架构,并模仿大脑有效处理信息的方式。”

肯德尔补充道:“模仿大脑自然处理系统的解决方案开始出现,研究和市场空间巨大。“

技术

人脑识别人脸的能力至少不比人类设计的最佳算法差。此外,人脑中神经连接的数量比任何模仿它的尝试都多几个数量级。人脑不仅可以存储成千上万的图像,还可以使用有效的算法对这些大数据集的数据进行分类。如今,人工智能等流行技术正在模仿人脑的学习能力。

摩尔庄

(照片来源:奥利维亚·王,彭城实验室)

电脑需要以新的形式出现正如该论文的作者所指出的:“今天最先进的计算机每秒处理指令的数量大约与昆虫大脑的数量相同。”“此外,他们缺乏有效扩张的能力相比之下,人类的大脑要强大100万倍,由于它的可塑性和稀疏性,它的计算复杂度要高得多。

因此,作者使用最简单的深度神经网络(DNNs)作为工具来解释大脑启发的神经形态计算机的原语。

DNNs包含多个计算层,每个计算层包含几个“神经元”,用于处理反馈给它们的任何信息,例如,通过阈值函数(在这种情况下,当输入超过阈值时,神经元发送信号)在给定的层中,每个神经元的输入和输出通过加权连接或“突触”连接到其他层由这些权重定义的连接、神经元的功能和网络拓扑一起描述了系统的行为。

下图描述了用于识别图像的有限深度或多层神经网络无论是通过算法、网络还是两者,这个基本网络都可以体现大脑启发计算机的所有原理。这幅图介绍了深层神经网络的特征,并描绘和标记了深层神经网络。深度神经网络的属性用不同的背景颜色标注。大多数属性(尤其是诱因)还没有被任何已知的神经网络有效地显示出来,但是作者将它们描述为相关任务环境中神经形态系统的重要特征。

a

摩尔庄

(图片来源:参考[1])

接下来,作者讨论了实现大脑启发或神经形态计算机的十个关键“操作原语”:并行性、内存计算、模拟计算、可塑性、概率计算、可伸缩性、稀疏性、学习、因果关系、非线性

摩尔庄

(图片来源:参考[1)

然后,作者讨论了加速器,特别是以神经科学为重点的加速器和以学习为重点的加速器,以及神经形态学结构和一些新的研究方向,如新算法和相关硬件的设计、突触和神经元材料等。

相当于

来重建计算机,以便更好地模拟大脑中的神经结构,这是解决动态非线性问题的关键。作者预测,神经形态计量学最早将在本世纪中叶普及。非线性、因果性和稀疏性等

计算基元的发展将在深度神经网络等新的体系结构中带来新的计算技术浪潮。这一波技术可以处理非常困难的约束优化问题,如天气预报和基因排序。

摩尔庄

(照片来源:参考[1])

论文的作者得出结论,为了使神经形态计量学成熟,必须开发材料、装置、架构和工具。他们呼吁探索新的功能材料来开发新的计算设备。

摩尔庄

(图片来源:参考[1])论文

不仅为该领域的初学者提供了一个确定研究方向的介绍指南,也为一些研究者找到突破传统计算模式的基本局限的方法提供了启示。

关键词

神经形态学计算,人工智能,摩尔定律,神经网络

参考文献

[1]杰克·d·肯德尔,苏哈库马。7(1):011305 DOI:10.1063/1.5129306

【2】https://publishing . AIP . org/publications/latest-content/re inventing-the-the-computer-brain-启发-computing-for-a-post-Moores-law-era/

大家都在看

相关专题