IBM 发布首个深度学习类脑超级计算平台

来源:www.jiemian.com 2016-04-19 23:05:00

专家认为,TrueNorth虽然与人脑某些结构和机理较为接近,但智能算法的精度或效果有待进一步提高,离大规模商业应用还有一段距离;但从长远来看,研究类脑计算是通往强人工智能的有效方法。

新智元·2016/04/1922:39评论(0) 收藏(0)字体:宋

IBM

作者:闻菲Simon

【新智元导读】IBM日前发布了一款用于深度学习的类脑超级计算平台IBMTrueNorth。新智元芯片专家群的几位专家讨论后认为:TrueNorth虽然与人脑某些结构和机理较为接近,但智能算法的精度或效果有待进一步提高,离大规模商业应用还有一段距离;但从长远来看,研究类脑计算是通往强人工智能的有效方法。

IBMTrueNorth。图片来源:federallabs.org

IBM日前发布了一款用于深度学习的类脑超级计算平台IBMTrueNorth,其处理能力相当于1600万个神经元和40亿个神经键,消耗的能量只需2.5瓦。将低能耗的类脑处理器应用于深度学习无疑是未来大数据处理创新方法。

劳伦斯·利弗莫尔国家实验室(LLNL)数据科学部门的副主任JimBrase表示,类脑计算与未来高性能计算和模拟发展趋势一致,类脑计算的潜力和机器智能将会改变科研方式。

IBMTrueNorth的架构基于IBM此前发布的TrueNorth脉冲神经网络芯片。就在上周举行的2016年物理设计国际研讨会(ISPD)上,IBM展示了其研发的TrueNorth的发展现状及规划,包括TrueNorth芯片架构、评估板数组、参考设计系统和软件生态架构。ISPD是ACM旗下的会议,这次会议对下一代的芯片进行了讨论。

一台TrueNorth处理器由54亿个连结晶体管组成,构成了包含100万个数字神经元阵列,这些神经元又可通过2.56亿个电突触彼此通信。超过4亿比特的本地存储单位(100KB每核)存储突触和神经元参数。在0.8伏电压下,一台实时运行的TrueNorth处理器功耗仅为70毫瓦,每秒可执行46千兆突触运算。图片来源:research.ibm.com

TrueNorth设计师FilippAkopyan在演讲中表示,从第一个微处理器到今天的超级计算机芯片,时钟速度和功耗在稳步的上升,我们应该朝着相反的反向走:更低的时钟速度和更低的功耗,最终低到人类大脑的10赫兹、20瓦的指标。

IBM的类脑架构从上图中的左上角开始,通过研究人类大脑的皮质神经元结构,然后是右边的架构、功能并最终达到物理实现。同样,更复杂的神经形态的灵感,来自于左上角下面的核心理念,从单芯片到多芯片的模块。图片来源:edugeek.net

“今天我们的移动端生产着大量的数据,它们必须通过云端来处理,但是TrueNorth可以配置在边缘网络中,数据可以流入并且得到智能的处理,而只需要把重要的项目和总结传送到云端,”Akopyan在报告中说道:“但是计算资源正在往错误的高功率方向发展,它们最好降低到生物级别的水准。”

TrueNorth芯片最大的差别是,它既有传统的同步的部分(接口和时序),也有异步的部分(类脑架构),所以流程需要单独但同步的开发。来源:eetimes.com

Akopyan表示,TrueNorth芯片的目标是边缘网络(Edge-of-the-Net)和大数据解决方案,因此必须通过超低功耗实时处理大量数据。TrueNorth实现54亿个晶体管70毫瓦功率的关键是采用了异步的逻辑,芯片除了在特定的神经元被开启并和其他神经元进行通信的时候,功率消耗都为0。在结构上,如果是采用同步的架构,里面的54亿晶体管会消耗50到100瓦,但异步架构会让功耗降到最低。

为了在结构上实现任何神经元彼此连结,晶体管上有一个巨大的纵横栓开关(crossbarswitch)连结54亿的神经元。

IBM第一个电路板级别的解决方案,使用了16块单芯片的TrueNorth。图片来源:research.ibm.com

IBM现在有一块单芯片电路板,机箱有16片和48片的电路板,每块电路板有16个TrueNorh芯片。未来IBM还打算做出有着64、256、1024和4096块芯片的电路板。其中,4096块芯片的电路板包含的神经突触数量可能达到人脑的1%。

由于借鉴了人脑中神经元细胞的脉冲模型,IBMTrueNorth与当前冯·诺依曼架构的计算机截然不同。IBM类脑计算机首席科学家DharmendraS.Modha在介绍TrueNorth也表示:如果把当前的冯·诺依曼架构计算机比作人的左脑,是快速处理抽象数据的计算器;那么相比之下TrueNorth更像右脑,是通过慢速感知进行模式识别的机器。他们希望利用神经突触可塑性,增强TrueNorth规模,创造现场适应性强并且能够在线学习的新一代类脑计算机。

不过,就像新智元智库专家、中科院计算所研究员陈云霁在《什么是类脑计算机?》中所说,“脉冲神经网络模型看上去和生物神经元很接近,但却没有好的智能处理能力”,陈云霁在文中还提到,深度学习权威YannLeCun也曾指出,“TrueNorth所采用的脉冲神经网络‘从未在任何有意思的(智能处理)任务上表现出与当前最好算法接近的精度’”。

新智元芯片专家群的几位专家讨论后也认为:TrueNorth虽然与人脑某些结构和机理较为接近,但智能算法的精度或效果有待进一步提高,离大规模商业应用还有一段距离;现在我们仍然主要使用冯诺依曼结构的计算机,用人工神经网络的方法(比如深度学习模型)做大数据,在某些专用领域先把神经网络加以应用,同时研究类脑计算机才是切实可行的。

IBM类脑计算机首席科学家DharmendraS.Modha也强调,TrueNorth只是一个方向,IBM的最终目标是制造智能商用计算机。新智元芯片专家群的几位专家也表示,从长远来看,研究类脑计算是将来万物智能的基础,是通往强人工智能的有效方法。

(艾娅轩对本文也有贡献。)

参考资源:

R.ColinJohnson,IBMNeurocomputerDetailed,EETimes

DharmendraS.Modha,IntroducingaBrain-inspiredComputerTrueNorth'sneuronstorevolutionizesystemarchitecture,IBMRessarch

LawrenceLivermorePartnersWithIBMtoBuildNewFrontiersofSupercomputing

点击查看原文

相关链接