神经动力学突触解读课件

小世界神经元网络的完全同步

和相位同步报告人：韩芳2009.10.26小世界神经元网络的完全同步

和相位同步报告人：韩芳主要内容研究背景相关知识小世界神经元网络的完全同步小世界神经元网络的相位同步总结主要内容研究背景1.研究背景

大脑神经网络是一个能够实时地从外部和内部各种刺激中极其完美地提取和整合各种信息的复杂网络。它是在多重组织层次上运作的：神经元（neuron）、神经元集群，即局部回路（localcircuits）、脑的特定区域(specialbrainareas)、皮层的大规模组织(large-scaleorganizationofthecortex)、全脑(theentirebrain)。早期的神经科学研究：各脑区功能的定位现代的观点：运用复杂网络的方法分析不同层次神经网络的结构和动力学行为复杂脑网络的研究视角：结构性网络（structuralnetwork）、功能性网络（functionalnetwork）、效率性网络（effectivenetwork）。

1.研究背景大脑神经网络是一个能够1.研究背景

结构性网络由神经元及它们之间的连接所构成，具有多重空间尺度和时间动态演化性，是研究大脑功能的基础。目前，从哺乳动物诸如鼠、猫、猴等的实验中已经得到证明，其脑皮层区域的结构性网络连接情况显示出了复杂网络的特性。Olaf.Sporns和他的实验小组利用图论工具量化了哺乳动物的大规模皮层结构性网络以及人类大脑皮层区域结构性网络的特征，证明了其连接模式均呈现小世界特性，它们平均路径长度很短，接近于随机网络，而群集系数却要高很多[注]。图1.1

大脑皮层的结构连接图

[注]SpornsO，ZwiJ.Thesmallworldofthecerebralcortex.Neuroinfo，2004，2(2)：141~162

1.研究背景结构性网络由神经元及它们之1.研究背景

同步现象是非线性系统的一个基本性质，在神经系统，特别是大脑中同样具有普遍性和重要性。大脑的层次分子神经元神经元群神经网络大脑皮层功能分区神经中枢发现同步现象：如脑电图、脑磁图神经系统同步在大脑的信息交流和处理过程中发挥了重要作用，表现：学习、记忆等认知功能、视觉目标合成、神经疾患等1.研究背景同步现象是非线性系统的一个1.研究背景神经系统同步的研究上个世纪80年代至今研究对象简单的神经元耦合系统（几个神经元耦合）神经元网络：规则连接网络（链式、环式、星状、方格子等连接方式）、全局连接网络、随机连接网络、小世界网络、无标度网络等研究内容

完全同步、相同步、反相同步、簇同步、同步转迁、一致共振、有序时空混沌现象研究方法

几何奇异摄动、分岔分析、混沌同步1.研究背景神经系统同步的研究2.相关知识2.1大脑和神经元

人脑的形态和构成

图2.1

大脑的外形和切片形状数千亿个神经元神经元间的连接2.相关知识2.1大脑和神经元图2.1大脑2.相关知识神经元的基本结构

图2.2

显微镜下的神经细胞（神经元）

轴突末梢树突胞体轴突2.相关知识神经元的基本结构图2.2显2.相关知识神经元的数学描述

离子通道模型：描述神经元膜内外的离子交换特性，如HH模型、HR模型、FHN模型、IF模型、Chay模型等；电缆特性和房室模型：描述细胞内电信号传递的特性，基于Rall电缆理论；突触动力学模型：突触传递信息一般采用电传递和化学传递两种方式进行。电突触的描述是利用欧姆定律进行电位耦合，化学突触的信号的详细传递过程是电脉冲-化学信号-电脉冲；树突动力学模型：树突形状的变化可以引起不同的发放模式，树突的结构变化会导致电信号传递的时间延迟，对电位发放的影响也十分明显；钙信号的调节模型：刻画各种从细胞膜和钙库中流进和流出细胞质的钙离子。2.相关知识神经元的数学描述离子通道模型2.相关知识2.2小世界网络

小世界网络理论的形成和发展

1967年，StanleyMilgram提出一个“六度分离”（sixdegreesofseparation）的假设。

1998年，美国Cornell大学理论和应用力学系的博士生Watts及其导师Strogatz根据Milgram的“六度分离”假设提出了小世界网络（Small-worldNetworks）模型（WS模型）。图2.3WS模型示意图N个节点以概率p随机重连2k个邻居2.相关知识2.2小世界网络图2.3WS模型示2.相关知识

由于WS小世界模型不利于分析并且在构造过程中可能产生孤立的节点簇，Newman和Watts对WS模型作了少许改动，提出了NW模型：不去断开原来环形初始网络的任何一条边、而只是在随机选取的节点对之间增加一条边。小世界现象的产生不是因为在网络中存在一些长范围的连接，而是因为在网络中存在一些具有高度连接或者其邻居节点广泛分布的节点，据此，Dorogovtsev&Mendes提出了DM模型：在环形网格中间添加中心节点，随机选取环形网格的大量节点与这些中心结点相连。在真实世界里，只要给定社会网络的局部信息，人们非常擅于找到捷径，而这一点在WS模型里得不到反映。因此，Kleinberg提出了一种节点距离可调的模型Kleinberg模型：在一个二维方格子里，在节点i和j之间以概率p添加长程边，而概率p服从有关节点i和j之间距离的幂率分布，即。小世界网络的特点：同时具有较短的特征路长（即平均最短路长）和较大的群集系数；在社会、生态网中均有体现。

2.相关知识由于WS小世界2.相关知识小世界网络的基本参数

度(degree)和度分布(degreedistribution)：网络中一个节点的度通常定义为这个节点具有的连接边的数目。把具有相同度的节点的个数分别统计起来，可以得到一张度的分布图。

群集系数(clusteringcoefficient)：群集系数的概念用来刻画所关心的某个节点的直接邻居节点之间也互相连接的稠密程度，定义为0到1之间的一个实数值。

距离(distance)和平均最短路径长度(averageshortestpath-length，也称为特征路长，characteristicspath-length)：两个节点之间的距离可以有许多不同的定义，其中最简单也最常用的就是它们之间最短连边的条数。

介数(betweenness)：介数分节点介数和连边介数，前者定义为网络中两两相连的节点对之间通过该节点的所有连边的总数量；后者定义为网络中两两相连节点对之间通过该边的所有连边的总数量。

2.相关知识小世界网络的基本参数度(degree2.相关知识NW小世界网络的定量性质特征路长的定量描述：其中，

2.相关知识NW小世界网络的定量性质2.相关知识

图2.4NW小世界网络特征路长与网络参数N,p,k(k=z/2)的关系特征路长L分别是N的单调增函数、p的单调减函数、k的单调减函数。

2.相关知识图2.4NW小世界网络特征路长与2.相关知识2.3同步周期系统的同步：锁频锁相混沌系统的同步：完全同步：两个相同的混沌系统在耦合参数的变化下，经过足够长的时间后，系统的轨道能够完全重合。相位同步：两个耦合的混沌系统或有周期外力激励的单个混沌系统，当它们在时间连续变化时，相位（或频率）保持一致或相位差（或频率差）保持恒定，而振幅不相关。滞后同步：两个振子的状态几乎相同，只是在时间上一个系统滞后于另一个系统;还有期望同步、射影同步、广义同步等。2.相关知识2.3同步3.1数学模型

HR神经元模型

3.小世界神经元网络的完全同步3.1数学模型3.小世界神经元网络的完全同步3.小世界神经元网络的完全同步

图3.2HR模型的ISI随外界直流激励I变化的分岔图图3.1在不同外界直流激励下HR模型的膜电位3.小世界神经元网络的完全同步图3.2HR模型的ISI随NW小世界HR神经元网络模型

矩阵G具有如下性质：(1)G是一个N维的不可约的对称方阵；(2)G的非对角元素或者是1或者是0；(3)G的元素满足；(4)G的特征值满足关系。3.小世界神经元网络的完全同步NW小世界HR神经元网络模型思路：MSF方法适用的条件（1）耦合振子是全同的；（2）任意振子的输出函数相同；（3）同步流形是不变流形；（4）节点的耦合可由同步流形处的线性算子来近似。系统（3.2）满足这些条件，故可以通过寻找HR神经元系统的主稳定性函数来研究小世界网络的完全同步。由系统（3.2），可得到其变分方程其中A是单个HR神经元在同步流形处的Jacobia矩阵，H为输出函数，这里，，表示矩阵的直乘运算。3.2研究方法：MSF（MasterStabilityFunction）3.小世界神经元网络的完全同步思路：MSF方法适用的条件（1）耦合振子是全同的；（2）任意

将G对角化后变分方程形成n个形式如下的块状方程；

它们的不同仅在于网络连接矩阵G的特征值。一般地，我们可考虑系统

系统（3.5）的最大Lyapunov指数与的关系，就是HR神经元耦合系统的主稳定性函数。令小于零的的范围，即HR系统的同步区域。3.小世界神经元网络的完全同步将G对角化后变分方程形成n个形式如下的块状方程；

同步区域：即，只要满足，系统（3.4）就是稳定的，进而系统（3.2）的同步状态就是稳定的。图3.3

耦合混沌HR神经元系统的主稳定性函数3.小世界神经元网络的完全同步图3.3耦合混沌HR神经元系统的主稳定性函数3.小世界神

由于同步区域是半有界区域，而耦合矩阵G的特征值满足关系，所以只要满足，其它特征值就自动满足关系。因此，只要，同步流形就是稳定的，据此可立即求出HR神经元系统达到同步对耦合强度的约束条件即，达到完全同步的临界耦合强度仅仅依赖于网络矩阵的最大非零特征值。值越大，要达到同步的耦合强度越大，网络也就越不容易达到同步状态。3.小世界神经元网络的完全同步由于同步区域是半有界区域3.3数值模拟结果

小世界参数对网络完全同步的影响

图3.4

临界耦合强度与加边概率在不同情况下的关系：(a)不同的神经元数N(k=5)；(b)不同的初始节点度k(N=300)

3.小世界神经元网络的完全同步3.3数值模拟结果小世界参数对网络完全同步的影图3.5

不同情况下最大同步误差与耦合强度的关系：(a)N(k=5,p=0.01),(b)k(N=300,p=0.01),(c)p(N=300,k=4)3.小世界神经元网络的完全同步图3.5不同情况下最大同步误差与耦合强度的关系：3.小世界网络异质性对完全同步的影响异质性系数的引入：在网络中随机选取

个神经元作为中心节点，在网络中添加

m

条长程边，要求每个长程边至少连接一个中心节点。这样，网络的异质性可由系数来控制。当时，特征路长最短。图3.6(a)m=100和(b)m=200时临界耦合强度与异质性系数的关系(N=300,k=5)3.小世界神经元网络的完全同步网络异质性对完全同步的影响图3.6(a)m=100和图3.7最大同步误差与异质性参数的关系(N=300,k=5,m=200)3.小世界神经元网络的完全同步图3.7最大同步误差与异质性参数的关系(N=300,k4.1数学模型4.小世界神经元网络的相位同步4.1数学模型4.小世界神经元网络的相位同步4.2相位的三种定义方法4.小世界神经元网络的相位同步（1）解析信号逼近的方法：基于Hilberttransformation；（2）针对围绕一个参照点做固定旋转的振子的直观方法：将HR神经元模型的运动轨道投影在相平面上，则相位可以定义为：（3）基于Poincare映射的方法：选取Poincaré截面为，规定膜电位增加的方向为正方向，则瞬时相位可以定义为：4.2相位的三种定义方法4.小世界神经元网络的相位同步（1图4.1HR神经元的混沌触发（上图）和相位定义（下图）4.小世界神经元网络的相位同步图4.1HR神经元的混沌触发（上图）和相位定义（下图）4.4.3数值模拟结果小世界参数对网络相位同步的影响（1）4.小世界神经元网络的相位同步4.3数值模拟结果4.小世界神经元网络的相位同步小世界参数对网络相位同步的影响（2）图4.2在不同情况下最大平均相差与耦合强度的关系(前图)N(k=5,p=0.01),(左图)k(N=300,p=0.01),(右图)p(N=300,k=4)

4.小世界神经元网络的相位同步小世界参数对网络相位同步的影响（2）图4.2在不同情况下最异质性对网络相位同步的影响图4.3

(a)m=100(b)m=200时临界耦合强度与异质性的关系(N=300,k=5)4.小世界神经元网络的相位同步异质性对网络相位同步的影响图4.3(a)m=100(

(一）完全同步利用主稳定性函数法，研究了小世界网络的结构参数和网络异质性对全同混沌HR神经元网络的完全同步的影响。研究结果表明，较大的神经元数目、节点度和加边概率都有利于神经网络达到完全同步。至于异质性对网络行为的影响，一般来说，具有较小的异质性，即趋于均匀的网络更容易达到同步，在网络复杂程度较高（长程边数目较多）时候尤其如此。通过分析发现，特征路长显然不是自然选择唯一关注的因素，神经元网络趋向于以较大的特征路长的代价来拥有较大的神经元数目和较小的异质性。5.总结(一）完全同步5.总结(二）相同步采用数值模拟的方法，研究了小世界网络的结构参数和网络异质性对非全同的混沌HR神经元网络的相同步的影响，研究结果表明，与小世界神经元网络完全同步类似，较大的神经元数目、节点度和加边概率都有利于神经网络达到相同步，而较小的异质性使网络更容易达到同步，且随着异质性的增加，网络的同步能力有个先难后易的过程。5.总结(二）相同步5.总结ThanksThanks35小世界神经元网络的完全同步

和相位同步报告人：韩芳2009.10.26小世界神经元网络的完全同步

和相位同步报告人：韩芳主要内容研究背景相关知识小世界神经元网络的完全同步小世界神经元网络的相位同步总结主要内容研究背景1.研究背景

大脑神经网络是一个能够实时地从外部和内部各种刺激中极其完美地提取和整合各种信息的复杂网络。它是在多重组织层次上运作的：神经元（neuron）、神经元集群，即局部回路（localcircuits）、脑的特定区域(specialbrainareas)、皮层的大规模组织(large-scaleorganizationofthecortex)、全脑(theentirebrain)。早期的神经科学研究：各脑区功能的定位现代的观点：运用复杂网络的方法分析不同层次神经网络的结构和动力学行为复杂脑网络的研究视角：结构性网络（structuralnetwork）、功能性网络（functionalnetwork）、效率性网络（effectivenetwork）。

1.研究背景大脑神经网络是一个能够1.研究背景

结构性网络由神经元及它们之间的连接所构成，具有多重空间尺度和时间动态演化性，是研究大脑功能的基础。目前，从哺乳动物诸如鼠、猫、猴等的实验中已经得到证明，其脑皮层区域的结构性网络连接情况显示出了复杂网络的特性。Olaf.Sporns和他的实验小组利用图论工具量化了哺乳动物的大规模皮层结构性网络以及人类大脑皮层区域结构性网络的特征，证明了其连接模式均呈现小世界特性，它们平均路径长度很短，接近于随机网络，而群集系数却要高很多[注]。图1.1

大脑皮层的结构连接图

[注]SpornsO，ZwiJ.Thesmallworldofthecerebralcortex.Neuroinfo，2004，2(2)：141~162

1.研究背景结构性网络由神经元及它们之1.研究背景

同步现象是非线性系统的一个基本性质，在神经系统，特别是大脑中同样具有普遍性和重要性。大脑的层次分子神经元神经元群神经网络大脑皮层功能分区神经中枢发现同步现象：如脑电图、脑磁图神经系统同步在大脑的信息交流和处理过程中发挥了重要作用，表现：学习、记忆等认知功能、视觉目标合成、神经疾患等1.研究背景同步现象是非线性系统的一个1.研究背景神经系统同步的研究上个世纪80年代至今研究对象简单的神经元耦合系统（几个神经元耦合）神经元网络：规则连接网络（链式、环式、星状、方格子等连接方式）、全局连接网络、随机连接网络、小世界网络、无标度网络等研究内容

完全同步、相同步、反相同步、簇同步、同步转迁、一致共振、有序时空混沌现象研究方法

几何奇异摄动、分岔分析、混沌同步1.研究背景神经系统同步的研究2.相关知识2.1大脑和神经元

人脑的形态和构成

图2.1

大脑的外形和切片形状数千亿个神经元神经元间的连接2.相关知识2.1大脑和神经元图2.1大脑2.相关知识神经元的基本结构

图2.2

显微镜下的神经细胞（神经元）

轴突末梢树突胞体轴突2.相关知识神经元的基本结构图2.2显2.相关知识神经元的数学描述

离子通道模型：描述神经元膜内外的离子交换特性，如HH模型、HR模型、FHN模型、IF模型、Chay模型等；电缆特性和房室模型：描述细胞内电信号传递的特性，基于Rall电缆理论；突触动力学模型：突触传递信息一般采用电传递和化学传递两种方式进行。电突触的描述是利用欧姆定律进行电位耦合，化学突触的信号的详细传递过程是电脉冲-化学信号-电脉冲；树突动力学模型：树突形状的变化可以引起不同的发放模式，树突的结构变化会导致电信号传递的时间延迟，对电位发放的影响也十分明显；钙信号的调节模型：刻画各种从细胞膜和钙库中流进和流出细胞质的钙离子。2.相关知识神经元的数学描述离子通道模型2.相关知识2.2小世界网络

小世界网络理论的形成和发展

1967年，StanleyMilgram提出一个“六度分离”（sixdegreesofseparation）的假设。

1998年，美国Cornell大学理论和应用力学系的博士生Watts及其导师Strogatz根据Milgram的“六度分离”假设提出了小世界网络（Small-worldNetworks）模型（WS模型）。图2.3WS模型示意图N个节点以概率p随机重连2k个邻居2.相关知识2.2小世界网络图2.3WS模型示2.相关知识

由于WS小世界模型不利于分析并且在构造过程中可能产生孤立的节点簇，Newman和Watts对WS模型作了少许改动，提出了NW模型：不去断开原来环形初始网络的任何一条边、而只是在随机选取的节点对之间增加一条边。小世界现象的产生不是因为在网络中存在一些长范围的连接，而是因为在网络中存在一些具有高度连接或者其邻居节点广泛分布的节点，据此，Dorogovtsev&Mendes提出了DM模型：在环形网格中间添加中心节点，随机选取环形网格的大量节点与这些中心结点相连。在真实世界里，只要给定社会网络的局部信息，人们非常擅于找到捷径，而这一点在WS模型里得不到反映。因此，Kleinberg提出了一种节点距离可调的模型Kleinberg模型：在一个二维方格子里，在节点i和j之间以概率p添加长程边，而概率p服从有关节点i和j之间距离的幂率分布，即。小世界网络的特点：同时具有较短的特征路长（即平均最短路长）和较大的群集系数；在社会、生态网中均有体现。

2.相关知识由于WS小世界2.相关知识小世界网络的基本参数

度(degree)和度分布(degreedistribution)：网络中一个节点的度通常定义为这个节点具有的连接边的数目。把具有相同度的节点的个数分别统计起来，可以得到一张度的分布图。

群集系数(clusteringcoefficient)：群集系数的概念用来刻画所关心的某个节点的直接邻居节点之间也互相连接的稠密程度，定义为0到1之间的一个实数值。

距离(distance)和平均最短路径长度(averageshortestpath-length，也称为特征路长，characteristicspath-length)：两个节点之间的距离可以有许多不同的定义，其中最简单也最常用的就是它们之间最短连边的条数。

介数(betweenness)：介数分节点介数和连边介数，前者定义为网络中两两相连的节点对之间通过该节点的所有连边的总数量；后者定义为网络中两两相连节点对之间通过该边的所有连边的总数量。

2.相关知识小世界网络的基本参数度(degree2.相关知识NW小世界网络的定量性质特征路长的定量描述：其中，

2.相关知识NW小世界网络的定量性质2.相关知识

图2.4NW小世界网络特征路长与网络参数N,p,k(k=z/2)的关系特征路长L分别是N的单调增函数、p的单调减函数、k的单调减函数。

2.相关知识图2.4NW小世界网络特征路长与2.相关知识2.3同步周期系统的同步：锁频锁相混沌系统的同步：完全同步：两个相同的混沌系统在耦合参数的变化下，经过足够长的时间后，系统的轨道能够完全重合。相位同步：两个耦合的混沌系统或有周期外力激励的单个混沌系统，当它们在时间连续变化时，相位（或频率）保持一致或相位差（或频率差）保持恒定，而振幅不相关。滞后同步：两个振子的状态几乎相同，只是在时间上一个系统滞后于另一个系统;还有期望同步、射影同步、广义同步等。2.相关知识2.3同步3.1数学模型

HR神经元模型

3.小世界神经元网络的完全同步3.1数学模型3.小世界神经元网络的完全同步3.小世界神经元网络的完全同步

图3.2HR模型的ISI随外界直流激励I变化的分岔图图3.1在不同外界直流激励下HR模型的膜电位3.小世界神经元网络的完全同步图3.2HR模型的ISI随NW小世界HR神经元网络模型

矩阵G具有如下性质：(1)G是一个N维的不可约的对称方阵；(2)G的非对角元素或者是1或者是0；(3)G的元素满足；(4)G的特征值满足关系。3.小世界神经元网络的完全同步NW小世界HR神经元网络模型思路：MSF方法适用的条件（1）耦合振子是全同的；（2）任意振子的输出函数相同；（3）同步流形是不变流形；（4）节点的耦合可由同步流形处的线性算子来近似。系统（3.2）满足这些条件，故可以通过寻找HR神经元系统的主稳定性函数来研究小世界网络的完全同步。由系统（3.2），可得到其变分方程其中A是单个HR神经元在同步流形处的Jacobia矩阵，H为输出函数，这里，，表示矩阵的直乘运算。3.2研究方法：MSF（MasterStabilityFunction）3.小世界神经元网络的完全同步思路：MSF方法适用的条件（1）耦合振子是全同的；（2）任意

将G对角化后变分方程形成n个形式如下的块状方程；

它们的不同仅在于网络连接矩阵G的特征值。一般地，我们可考虑系统

系统（3.5）的最大Lyapunov指数与的关系，就是HR神经元耦合系统的主稳定性函数。令小于零的的范围，即HR系统的同步区域。3.小世界神经元网络的完全同步将G对角化后变分方程形成n个形式如下的块状方程；

同步区域：即，只要满足，系统（3.4）就是稳定的，进而系统（3.2）的同步状态就是稳定的。图3.3

耦合混沌HR神经元系统的主稳定性函数3.小世界神经元网络的完全同步图3.3耦合混沌HR神经元系统的主稳定性函数3.小世界神

由于同步区域是半有界区域，而耦合矩阵G的特征值满足关系，所以只要满足，其它特征值就自动满足关系。因此，只要，同步流形就是稳定的，据此可立即求出HR神经元系统达到同步对耦合强度的约束条件即，达到完全同步的临界耦合强度仅仅依赖于网络矩阵的最大非零特征值。值越大，要达到同步的耦合强度越大，网络也就越不容易达到同步状态。3.小世界神经元网络的完全同步由于同步区域是半有界区域3.3数值模拟结果

小世界参数对网络完全同步的影响

图3.4

临界耦合强度与加边概率在不同情况下的关系：(a)不同的神经元数N(k=5)；(b)不同的初始节点度k(N=300)

3.小世界神经元网络的完全同步3.3数值模拟结果小世界参数对网络完全同步的影图3.5

不同情况下最大同步误差与耦合强度的关系：(a)N(k=5,p=0.01),(b)k(N=300,p=0.01),(c)p(N=300,k=4)3.小世界神经元网络的完全同步图3.5不同情况下最大同步误差与耦合强度的关系：3.小世界网络异质性对完全同步的影响异质性系数的引入：在网络中随机选取

个神经元作为中心节点，在网络中添加

m

条长程边，要求每个长程边至少连接一个中心节点。这样，网络的异质性可由系数来控制。当时