储备池计算(Reservoir Computing, RC)是一种利用物理系统自身的动态特性和非线性进行高效时序信号处理的全新类脑计算范式,其训练代价低、硬件实现简单等优点使其成为类脑计算领域的研究热点。RC系统在一定程度上可以等效于一个递归神经网络,但由于其省略了传统递归网络中各个节点间的循环连接,因此可以大幅减少硬件开销和系统功耗。RC系统的这个特点也同时消除了由循环连接带来的误差积累问题,因此其天然具备全模拟计算的优势。目前已有的RC系统大多基于全数字或数模混合的硬件架构,这些RC系统都需要额外的模数转换器和寄存器以实现数据转换和缓存,这会带来大量的系统功耗和延时。而在全模拟的RC 系统中,输入的模拟信号可以在整个系统中直接传输和处理,无需任何数据转换和缓存。然而,实现这种具有极低功耗和硬件开销的全模拟RC系统,仍然需要解决两大难题:其一,需要构建状态丰富的物理储备池并找到决定储备池性能的关键特征参数;其二,需要找到降低全模拟传输和处理过程中噪声影响的方法。
18新利体育 功能纳米与软物质研究院仲亚楠副教授在清华大学从事博士后研究工作期间,与其合作导师从上述两大问题出发,设计出了基于两类忆阻器的全模拟RC系统(DM-RC系统)。该系统利用24个动态忆阻器(DM)构建物理储备池,采用4个2k的非易失性忆阻器(NVM)阵列构成读出层。DM-RC系统中每个动态忆阻器都是一个具备计算能力的物理系统(称为DM节点),其在一个特殊的时分复用机制下能够产生丰富的储备池状态。研究发现DM节点的一些关键行为特征如阈值、窗口等对DM-RC系统的性能有很大影响,通过调节DM节点的关键特征参数,可以使得DM-RC系统达到最优性能。此外,为了抑制噪声等非理想因素对系统性能的影响,研究团队提出了一种带有噪声感知能力的线性回归算法,通过该算法可以训练出具有较好噪声鲁棒性的输出层权重,从而弥补由NVM电导值漂移和模拟传输噪声导致的计算精度损失。在此基础上,研究团队将DM-RC系统应用到异常心率检测和动态手势识别任务中,分别实现了96.6%和97.9%的高准确率,与全数字的系统比非常接近,但功耗却足足低了3个数量级。该工作展示了全模拟的RC系统在边缘计算、物联网等低功耗场景中的应用潜力。相关成果在期刊《Nature Electronics》上发表,仲亚楠副教授为论文的共同第一作者,我院为第二署名单位。
文章链接:https://www.nature.com/articles/s41928-022-00838-3
文章题目:A memristor-based analogue reservoir computing system for real-time and power-efficient signal processing
作者信息:Yanan Zhong#, Jianshi Tang#*, Xinyi Li#, Xiangpeng Liang, Zhengwu Liu, Yijun Li, Yue Xi, Peng Yao, Zhenqi Hao, Bin Gao, He Qian, Huaqiang Wu*
仲亚楠副教授简介:http://funsom.suda.edu.cn/23/f5/c4747a467957/page.htm
项目资助:This work was supported in part by China key research and development program (2021ZD0201205), National Natural Science Foundation of China (91964104, 61974081, 62025111, 92064001, 62104126), and the XPLORER Prize.
责任编辑:郭佳