学术--- 赫布学习、脉冲神经网络 、同步振荡、神经元建模
1. 赫布学习法则
百度词条:赫布理论(Hebbian theory)描述了突触可塑性的基本原理,即突触前神经元向突触后神经元的持续重复的刺激可以导致突触传递效能的增加。这一理论由唐纳德·赫布于1949年提出,又被称为赫布定律(Hebb's rule)、赫布假说(Hebb's postulate)、细胞结集理论(cell assembly theory)等。他如此表述这一理论:
反射活动的持续与重复会导致神经元稳定性的持久性提升……当神经元A的轴突与神经元B很近并参与了对B的重复持续的兴奋时,这两个神经元或其中一个便会发生某些生长过程或代谢变化,致使A作为能使B兴奋的细胞之一,它的效能增强了。
这一理论经常会被总结为“一起激发的神经元连在一起”(Cells that fire together, wire together)。
神经元"A"必须对神经元"B"的激发“作出了一定贡献”,因此,神经元"A"的激发必须在神经元"B"之先,而不能同时激发。赫布理论中的这一部分研究,后来被称作STDP(Spike-timing dependent plasticity),表明突触可塑性需要一定的时间延迟。赫布理论可以用于解释“联合学习”(associative learning),在这种学习中,由对神经元的重复刺激,使得神经元之间的突触强度增加。这样的学习方法被称为赫布型学习(Hebbian learning)。赫布理论也成为了非监督学习的生物学基础。
2. 脉冲神经网络
根据1943年Hebbian提出的学习规则,如果突触能够持续引起突触后靶神经元产生动作电位,该突触的突触效能会增加。Henry Markram提出的Spike Timing Dependent Plasticity学习方法----STDP,它根据神经元学习的先后顺序,调整神经元之间连接的强弱。
当突触前脉冲先于突触后脉冲到达时(pre-post spiking),能够引起长时程增强(LTP)
当突触后脉冲先于突触前脉冲到达时(post-pre spiking),能够引起长时程抑制(LTD)
3.同步振荡
神经振荡发生于中枢神经系统的各个层次:动作电位、局部场电位和脑电图。一般来说,这种振荡可以根据其频率、振幅和相位来进行分类。这些信号特征可以通过时间-频率分析进行提取。在大部分神经振荡中,幅度的变化被认为是起源于神经元群体的同步性变化,也就是指神经元活动的局部同步化。除了局部同步化以外,较远的神经元组织结构的振荡活性也可以发生同步化。
钠离子通道的开发建立一定的静息电位,钾离子通道开放则类似电池放电,形成一过性的脉冲电流。这种电生理特征决定细胞膜的兴奋需要有一定间隔,整体表现为一定频率。
神经生物学将这种共同频率神经元之间的共振激活现象称为神经握手,大脑内虽然存在千亿个神经元,但任何两个神经元之间都能通过直接和间接通路发生联系,如果这些联系之间存在类似的频率,就产生了握手和共振的基础。频率接近的神经元能形成电同步现象,这和各种同频率共振的物理现象类似。
如何定量化描述神经元之间的同步程度便是一个急需解决的问题。[3]提出一个新的神经同步振荡的量化方法,有望成为定量化工具的新标准,并为将来更精确的定量化方法提供新思路。
当前常用的定量化方法一般是谱相干(spectral coherence),许多神经科学的工具包内(诸如Fieldtrip、Chronux)都有提供相应的算法接口。然而谱相干方法对待分析的信号有几个假设,其中最重要的假设是要求信号是线性的和平稳的(linearity and stationarity)。然而,这些关键假设在神经信号中却很少得到验证。与之相反的是,越来越多的证据证明,神经振荡信号具有非平稳性(non-stationarity)和非线性(non-linearity)的特征。这使得神经振荡信号从定义上就不适合用谱相干方法进行分析。
[3]利用相位振荡模型(Kuramoto Model)和脉冲神经网络产生的同步振荡,来测试谱相干方法的适用范围。模拟结果表明,当振荡器处于间歇性的部分同步时(这是最有可能产生神经同步的状态),谱相干方法尤其失效。失效的原因是即将同步的神经元的振荡频率和振幅的快速变化。
于是,[3]提出基于希尔伯特变换(Hilbert Transform)和奇异谱分解(Singular Spectrum Decomposition)来定量化相位锁定现象。奇异谱分解是近年来提出的一种新的自适应信号处理方法,能够将非线性非平稳信号依次从高频到低频分解为若干个奇异谱分量(Singular spectrum component)和残余项之和。该文通过模拟实验表明,该方法能够得到更精确的同步震荡程度的估计。
4. 神经元建模
神经元是神经网络的最基本计算单元,其数学建模是神经网络及其学习算法实现的基础和关键。最简单的神经元模型是McCullochPitts(M-P)神经元模型,也被称为第一代神经元。第一代神经元中,通过比较输入值与阈值,将神经元分成抑制和兴奋2 种状态,分别用0 和1 来表示。此后,研究者使用0 到1 之间的单调函数(激励函数),如S 型函数等,来表达神经元尖峰的放电速率,并通过尖峰放电速率定义神经元抑制或兴奋的状态。这种神经元模糊地表达抑制和兴奋状态,属于第二代神经元。近年来,研究者正在努力通过用简单的数学模型,构建神经元尖峰放电的动态过程,从而实现类神经元建模和类脑计算。
[4] 将神经元末梢表示为若干段单输入-多输出的等效电路网络,这些电路网络由电阻、电容、电流源和电压源组成,可解释脑电图(electroencephalogram,EEG) 信号中经常出现的不同频带信号的整体振荡、同步振荡和振荡耦合等信号模式。该模型产生的动作电位由神经元本征噪声和动态信号耦合而成,其输出信号由尖峰电位激励滤波器组产生,等价于与神经末梢连接的突触的突触后电位。该模型中,具有不同频率特性的各突触后滤波器可以看成中心频率分频所用的带通滤波器,可以产生δ波(1~4Hz)、θ 波(4~8 Hz)、α 波(8~14 Hz)、β 波(14~30 Hz)、γ(30~80 Hz),以及其他带宽。
仿真结果表明,32 个神经元具有爆发振荡的能力, 神经元之间产生相干性爆发尖峰放电,即同步振荡。神经网络的侧向抑制具有处理复杂环境噪声的能力,可有效地模拟神经生理节律。
参考文献
- 意识的神经振荡基础,孙学军,http://blog.sciencenet.cn/home.php?mod=space&uid=41174&do=blog&id=1200484
- Coupled ripple oscillations between the medial temporal lobe and neocortex retrieve human memory,2019.3.1,Science
- Lowet, Eric, et al. "Quantifying neural oscillatory synchronization: a comparison between spectral coherence and phase-locking value approaches." PloS one 11.1 (2016): e0146443.
- 王卫东,王子华, 许燕, 樊瑜波, 一种新型脉冲神经元模型及其网络的研究,国际生物医学工程杂志2020年2月第43卷第1期