中科院微电子地址图收集存内合计方面获紧张妨碍—往事—迷信网

源头:中国迷信院微电子钻研所 宣告光阴:2023/2/27 11:19:36 抉择字号:小 中 大
中科院微电子地址图收集存内合计方面获紧张妨碍

 

深度学习技术作为AI的中科址图张妨紧张引擎,近些年来受到普遍关注以及飞速睁开。院微图神经收集(Graph Neural Network)是电地一种较新的深度学习技术,可用于处置更重大的收集事迷非妄想化数据,普遍运用于社交收集、存内电子购物、合计获紧药物预料、碍往人机交互等运用途景。信网随着数据量的中科址图张妨飞快缩短,传统CMOS数字硬件零星中运行图神经收集的院微功能急待提升,图神经收集的电地磨炼历程日益重大使患上磨炼能耗居高不下。基于阻变忆阻器(RRAM)的收集事迷存内合计技术虽可清晰缓解传统数字硬件零星中的冯·诺依曼瓶颈、进一步提升合计功能,存内但仍受到高擦写功耗、合计获紧延时及确定的碍往编程阻值随机性等器件非事实特色的限度。 

针对于上述下场,微电子所微电子器件与集成技术重点试验室刘明院士团队尚大山钻研员与香港大学电子工程系王中锐博士相助,开拓了一种运用储池合计(Reservoir Computing)技术实现图妄想化数据分类的技术——反映形态图收集(ESGNN)。储池合计是循环神经收集的一种简化方式,可能将时序输入信号经由神经元的非线性激活函数转换到一个高维空间中,再经由一个重大线性回归措施实用地读出。储池合计中循环衔接层的权重不断牢靠巩固,惟独磨炼输入层权重,可最大限度飞腾磨炼庞漂亮以及磨炼光阴。在硬件方面,团队运用RRAM的本征随机性构建大规模随机电阻阵列(图1a-b),将其作为储池收集的初始化权重,具备低老本、可扩展优势。在软件方面,ESGNN怪异运用了随机电阻阵列带来的物理随机投影,以存内合计的方式实现图嵌入历程,大大飞腾了图神经收集的磨炼老本。团队还经由软—硬协同优化技术,在基于FPGA的板级测试平台上实现为了对于MUTAG、COLLAB数据集的图分类,妨碍了更大规模CORA数据集的节点分类仿真。比照传统数字硬件零星,能效分说提升了2.1六、35.42以及40.37倍。该使命揭示了RRAM阵列在构建边缘图学习零星方面的重大后劲,也为运用做作界丰硕的物理、化学性子开拓更高效的智能硬件零星提供了参考。 

该名目患上到了科技部、国家做作迷信基金委、中科院以及香港大学的反对于。下场近期宣告在《做作·机械智能》期刊上(Nature Machine Intelligence, DOI: 10.1038/s42256-023-00609-5),并落选当期封面文章。微电子所碰头学生、香港大学博士钻研生王少聪、微电子所博士钻研生李熠为文章的配合第一作者,香港大学王中锐博士、微电子所尚大山钻研员为该文章的通讯作者。此外,退出本使命的主要钻研职员还搜罗微电子所许晓欣钻研员、复旦大学刘琦教授以及张续猛博士、浙江大学林芃教授、意大利比萨大学Gallicchio博士以及香港科技大学郑光廷教授等。 

文章链接:https://www.nature.com/articles/s42256-023-00609-5 

Echo state graph neural networks with analogue random resistive memory arrays 

S. Wang, Y. Li, D. Wang, W. Zhang, X. Chen, D. Dong, S. Wang, X. Zhang, P. Lin, C. Gallicchio, X. Xu, Q. Liu, K. Chen, Z. Wang*, D. S. Shang*, M. Liu  

Nature Machine Intelligence (2023) DOI: 10.1038/s42256-023-00609-5 

  ?

图1 基于随机电阻阵列的反映形态图神经收集学习历程的软-硬协同妄想

  ?

图2 接管ESGNN实现MUTAG数据集的份子图分类

  ?

落选当期封面文章

 

   特意申明:本文转载仅仅是出于转达信息的需要,并不象征着代表本网站意见或者证实其内容的着实性;如其余媒体、网站或者总体从本网站转载运用,须保存本网站注明的“源头”,并自信版权等法律责任;作者假如不愿望被转载概况分割转载稿费等事件,请与咱们分割。