完美的回忆、计算魔法和剑杆机智:这是我们所有人都想要的大脑,但如何设计这样的大脑呢?真实的东西由~80亿个神经元组成,这些神经元通过数以万计的突触形式的连接相互协调。人脑没有像标准笔记本电脑那样的集中式处理器。
相反,许多计算是并行运行的,并比较结果。虽然人类大脑的工作原理尚未完全理解,但现有的数学算法可用于将深度学习原理重新加工成更像人脑的系统。这种受大脑启发的计算范式——尖峰神经网络(SNN)——提供了一种计算架构,与同时使用光学和电子组件的系统的潜在优势完全一致。
在SNN中,信息以尖峰或动作电位的形式进行处理,这是真实神经元放电时发生的电脉冲。它们的主要特征之一是它们使用异步处理,这意味着峰值在时间上发生时进行处理,而不是像传统神经网络那样批量处理。这使得SNN能够对其输入的变化做出快速反应,并比传统神经网络更有效地执行某些类型的计算。
SNN还能够实现某些类型的神经计算,这些计算在传统神经网络中很难或不可能实现,例如时间处理和峰值时间依赖可塑性(STDP),这是Hebbian学习的一种形式,允许神经元根据其峰值的时间改变其突触连接。(Hebbian学习被总结为“一起放电的细胞连接在一起”。它适合于模拟大脑学习能力可塑性的数学。
最近发表在IEEE量子电子学选定主题杂志上的一篇论文描述了利用光电神经元,模拟电路和马赫-曾德尔干涉仪网格的协集成开发SNN设备。这些网格是可以执行矩阵乘法的光学电路组件,类似于突触网格在人脑中的操作方式。
作者表明,光电神经元可以接受来自光通信网络的输入,通过模拟电路处理信息,并通过激光与网络通信。与传统的纯电子系统相比,此过程允许系统之间的数据传输和通信更快。
该论文还描述了使用现有算法,如随机反向传播和对比Hebbian Learning,来创建受大脑启发的计算系统。这些算法允许系统从每个突触的本地信息中学习,就像人脑一样,与使用反向传播的传统机器学习系统相比,在计算性能方面具有显着优势。
在人工智能和机器学习方面,SNN 在模仿其自然进化条件的任务方面提供了比现代计算范式更多的优势。由于 SNN 以连续的方式处理一段时间内的数据,因此它们非常适合位于实时环境中的应用程序,这些应用程序一次呈现单个推理和学习实例(例如基于事件的信号处理)。
此外,信息随时间推移的传播允许在不同时间尺度上出现多种形式的记忆,就像人类对工作记忆、短期记忆和长期记忆的区分一样。神经形态传感和机器人技术是SNN的常见应用;例如,自适应机械臂控制器可以在执行器磨损时提供可靠的电机控制。
更具推测性的是,未来的设备可能会在语音助手、实时字幕服务或音频分离的实时音频和自然语言处理的上下文中利用这些属性;同样,SNN可用于自动驾驶汽车或监控系统中的实时视频和激光雷达处理。