讲座4-国防科大吴孟达

1、神经元形态分类与识别神经元形态分类与识别 2010 2010年研究生数学建模竞赛年研究生数学建模竞赛C C题题吴孟达吴孟达2015-62015-6研究生数学建模研讨会研究生数学建模研讨会1/32 神经元形态分类与识别神经元形态分类与识别 对于神经元几何形态的特征研究这个热点问题，不同专家侧重用不同的指标去刻画神经元的形态特征，下面给出的神经元的粗略空间刻画以及附录A和附录C给出的刻画。你们需要完成的任务是：（1）利用附录A和附录C中样本神经元的空间几何数据，寻找出附录C中5类神经元的几何特征（中间神经元可以又细分3类），给出一个神经元空间形态分类的方法。2/32（2）附录B另外有20个神经元形

2、态数据，能否判定它们属于什么类型的神经元。在给出的数据中，是否有必要引入或定义新的神经元名称。（3）神经元的形态复杂多样，神经元的识别分类问题至今仍没有解决，你是否可以提出一个神经元分类方法，将所有神经元按几何特征分类。你能否给生物学家神经元的命名提出建议。3/32 神经元的形态非常复杂，不同的参数从不同的角度刻画了神经元的形态特征，简单几个特征参数不能完整的描述神经元的形态特征，选取神经元形态的20个特征参数，刻画一个神经元的空间形态。 降低维数降低维数主成分分析主成分分析 形态分类形态分类BPBP神经网络神经网络基于基于BPBP神经网络的神经元形态分类模型研究神经网络的神经元形态分类模型研

3、究4/32 1.1 1.1 神经元空间形态特征的提取与计算神经元空间形态特征的提取与计算 选取神经元的胞体表面积(B1)、干的数目(B2)、分叉数目(B3)、分支数目(B4)、宽度(B5)、高度(B6)、深度(B7)、直径(B8)、长度(B9)、表面积(B10)、体积(B11)、殴氏距离(B12)、路径距离(B13)、分叉级数(B14)、压缩比(B15)、破碎程度(B16)、非对称分化(B17)、罗尔比率(B18)、近端分叉角(B19)、远端分叉角(B20)等20个特征参数，分别从神经元的干的数目、分叉数目、分支数目、宽度、高度、深度、直径、长度、对称性、分叉角等多方面来刻画一个神经元的空间形

4、态。一一. 基于主成分分析理论的神经元特征分析基于主成分分析理论的神经元特征分析5/321.2 1.2 神经元形态特征主成分的提取神经元形态特征主成分的提取 主要步骤如下： 对数据进行如下标准化变换 得标准化阵Z。 对标准化阵Z，求相关矩阵 解相关矩阵R的特征方程，得到p个特征根，确定主成分。 将标准化后的指标向量转换为主成分。 对m个主成分进行综合评价。2211(),1nnijijjiijjijjijjxxxxxsnnxZs1TnZ ZR6/32运动神经元运动神经元浦肯野神经元浦肯野神经元椎体神经元椎体神经元二极中间神经元二极中间神经元三极中间神经元三极中间神经元多极中间神经元多极中间神经元

5、感觉神经元感觉神经元B129910.9511.087610.356426.7541318.451976.340B215165350B31513438761102011B4331688185131254923B52541120.82232.5233.31180.33274.84107.04B61922105.78715.5299.61358.36331.6138.65B720777339.5127.118.2133.1849.87B83.800340.6372740.9786790.4603261.665262.058351.72494B91075194461.6615597.15821.491

6、9.1812304.9616.9B105930059947.9346747.57299.014545.2914270.33477.05B114133742149.7616971.4866.5281860.697083.651913.47B121713.41135.398614.772709.551281.217259.407111.32B131938.85188.4521105.38973.303321.105299.921161.599B149231212555B150.9208590.9364570.8640590.8577270.9240740.9401030.874726B167064

7、05325601545384838225B170.5299780.5410380.5637970.5716310.6075760.488660.430303B181.026211.878551.425951.75691.62421.81211.32709B1953.555979.581965.34286.593458.322441.737983.3988B2052.433665.016949.106774.426558.685539.242169.9301表1 不同类型神经元的形态指标统计值7/32成分成分初始特征值初始特征值合计合计方差的方差的 %累积累积 %111.21056.04856.

8、04824.21021.05177.10032.33511.67788.77741.3636.81795.59550.6433.21698.81060.2381.190100.00075.174E-162.587E-15100.00084.131E-162.066E-15100.00093.316E-161.658E-15100.000103.110E-161.555E-15100.000111.441E-167.207E-16100.000表2 解释的总方差8/32成分成分1234B10.9830.090-0.019-0.113B20.9500.031-0.0100.262B30.0720.

9、960-0.182-0.195B40.1100.959-0.181-0.186B50.9870.0900.012-0.085B60.9880.0460.0350.110B70.9880.1160.088-0.049B80.868-0.325-0.234-0.275B90.9850.1540.058-0.059B100.9860.1200.028-0.100B110.9840.1100.025-0.119B120.9380.1170.2210.203B130.8680.1440.3020.327B14-0.1820.9800.0030.011B150.1760.139-0.886-0.221B1

10、6-0.2970.893-0.1210.132B170.0190.304-0.0150.844B18-0.7800.234-0.3670.216B19-0.4660.3880.756-0.228B20-0.3510.2700.745-0.243表表3 主成分载荷矩阵主成分载荷矩阵9/32成分成分1234B10.2940.044-0.012-0.097B20.2840.015-0.0070.224B30.0220.478-0.119-0.167B40.0330.467-0.118-0.159B50.2950.0440.008-0.073B60.2950.0220.0230.094B70.2950

11、.0570.058-0.042B80.259-0.158-0.153-0.236B90.2940.0750.038-0.051B100.2940.0580.018-0.086B110.2940.0540.016-0.102B120.2800.0570.1450.174B130.2590.0700.1980.280B14-0.0540.4780.0020.009B150.0530.068-0.580-0.189B16-0.0890.435-0.0790.113B170.0060.148-0.0100.723B18-0.2330.114-0.2400.185B19-0.1390.1890.495-

12、0.195B20-0.1050.1320.488-0.208表表4 主成分系数矩阵主成分系数矩阵()iiiCL10/322.1 BP2.1 BP神经网络模型神经网络模型 人工神经网络（Artificial Neural Network, ANN）提供了一种健壮且实用的方法从样例中学习的函数。ANN适合具有以下特点的问题：样本实例用“属性-值”表示；目标函数的输出是离散值或实数值组成的向量；训练数据可能包含错误；可容忍长时间的训练；可能需要快速求出目标函数值。二、神经元形态分类模型的建立与求解二、神经元形态分类模型的建立与求解11/32图： 典型人工神经元模型 其中f为激励函数，典型的激励函数包

13、括硬极限函数、S型对数函数、S型正切函数等，分别由以下公式定义：从数学角度来看，如图所示的神经元模型可用以下公式表示：0100yvv11vyevvvveeyeeiijjjuw xiiivub iiyf v12/32 BP网络是一种典型的多层前向神经网络，包含输入层、隐含层和输出层，激活函数采用S型函数。在网络训练方面，BP网络采用反向传播算法更新网络连接权值，整个学习过程循环执行以下三个步骤：通过网络将输入向前传播；通过网络将敏感性反向传播；使用近似的最速下降法更新权值和偏置值。 13/32 2.2 2.2 基于基于BPBP网络的分类模型网络的分类模型 从上一节维数下降模型的结果可以得出，四个

14、主成分特征可以基本反映全部的指标信息。因此，设计的分类模型输入层元素个数为4（Nin=4）。设计的神经网络分类模型输出层元素个数为3（Nout=3），最多可以表征8种神经元空间形态类别。表5给出了网络输出结果与神经元形态类别的对应关系。14/32类别类别输出输出保留单元0, 0, 0T运动神经元0, 0, 1T浦肯野神经元0, 1, 0T椎体神经元0, 1, 1T二极中间神经元1, 0, 0T三极中间神经元1, 0, 1T多极中间神经元1, 1, 0T感觉神经元1, 1, 1T表5 网络输出结果与神经元形态类别对照关系 15/32 Kolmogorov定理指出，BP网络隐含层神经元个数可以通过

15、以下公式计算出，其中，h为1, 10之间的常数。 或 1hinoutNNNh 2loginhNN 根据Kolmogorov定理，采用一个(Nin)(2Nin+1)Nout的三层BP网络作为神经元空间形态分类器，即4+9+3结构。隐含层神经元的激励函数为S型正切函数，输出层神经元的激励函数为S型对数函数（0-1输出）。16/32网络训练：网络训练：使用题目附录A和附录C中的神经元空间形态数据作为生成训练样本的原始数据，经过统计分析、主成分分析得出多个训练样本。在网络训练性能要求方面，将网络训练误差设定为110-5。17/32 2.3 2.3 模型检验模型检验 为了检验基于BP神经网络的神经元形态

16、分类模型是否满足分类要求，利用N网站上的4个测试数据对该模型进行检验。另外，为了消除特殊性，整个检验过程包括十次检验，检验结果全部正确，表明本文提出的基于BP神经网络的神经元形态分类模型可以有效准确地判定这4个测试样本的类型，为之后对未知神经元的分类提供了有效的工具。18/32三、神经元形态分类模型的应用三、神经元形态分类模型的应用 本节将基于BP神经网络的神经元形态分类模型用于判定本题附录B中的20个神经元的类型。为了消除随机性，整个判定过程包括十次判定，随后将十次神经网络输出结果取平均，得到如表6所示的类型判定结果，类型判定的依据如表7所示。19/32神经元类

17、型神经元类型附录附录B神经元分类结果神经元分类结果Pyramidal neuron1、2、3、4Purkinje neuron5、6Moto neuron7、8、9、10、11、12、19、20Sensory neuron13、14、17、18Bipolar interneuron15M u l t i p o l a r interneuron16表6 附录B神经元类型判断结果20/32附录附录B数据文件数据文件网络十次输出结果的平均值网络十次输出结果的平均值类型判断类型判断10.2021, 0.7825, 0.7968TPyramidal neuron20.0017, 0.9856, 0.

18、8775TPyramidal neuron30.2959, 0.7079, 0.6785TPyramidal neuron40.0011, 0.7157, 0.9971TPyramidal neuron50.0005, 0.9998, 0.0016TPurkinje neuron60.0002, 0.9998, 0.0004TPurkinje neuron70.0003, 0.2073, 0.7789TMoto neuron80.0003, 0.2457, 0.7951TMoto neuron90.0003, 0.2457, 0.7951TMoto neuron100, 0.0001, 1TM

19、oto neuron110, 0.0422, 0.9972TMoto neuron120, 0.0384, 0.9995TMoto neuron130.9999, 0,9997, 0.8738TSensory neuron141, 1, 1TSensory neuron150.9997, 0.0019, 0.003TBipolar interneuron161, 0.58, 0.33TMultipolar interneuron170.9927, 0.6961, 0.7012TSensory neuron180.9997, 0.7907, 0.7887TSensory neuron190.00

20、63, 0.3096, 0.9747TMoto neuron200.1067, 0.1201, 0.888TMoto neuron表7 附录B神经元类型判断详细信息类别类别输出输出保留单元0, 0, 0T运动神经元0, 0, 1T浦肯野神经元0, 1, 0T椎体神经元0, 1, 1T二极中间神经元1, 0, 0T三极中间神经元1, 0, 1T多极中间神经元1, 1, 0T感觉神经元1, 1, 1T21/32 我们将提出一种基于主成分分析理论的神经元分类方法，该方法仍然只利用神经元的几何形态特征，而不考虑其物理特性。 四、基于主成分理论的神经元分类方法研究四、基于主成分理论的神经元分类方法研究2

21、2/32 4.1 4.1 神经元分类方法新思考神经元分类方法新思考 在自然分类系统中，分类学家将生物划分为由高到低的七个级别，分别是界门纲目科属种。每一种生物都可以通过该分类系统找到其在生物界中的分类地位，这反映了该生物的分类属性以及与其他生物之间的亲缘关系。 人在生物界中分类地位是：动物界脊索动物门脊椎动物亚门哺乳动物纲真兽亚纲灵长目类人猿亚目人科人属人种。23/32 借鉴自然分类系统对生物分类的思想，按照神经元的几何形态特征对神经元分类的思想是：按照等级从高到低对神经元进行分类，等级越低表示分类越精细，涵盖的神经元数目更少。 神经元的20个形态特征信息可以用四个主成分来表示，在第一主成分第

22、一主成分上具有较高载荷的特征基本上属于粗略的轮粗略的轮廓描述廓描述；在第二主成分第二主成分上具有较高载荷的特征基本上属于更精细的分叉点、分支描述分叉点、分支描述；在第三主成分第三主成分上具有较高载荷的特征基本上属于进一步精细的伸缩性和分叉角度描述伸缩性和分叉角度描述；在第四主成分第四主成分上具有较高载荷的特征基本上属于网络对称网络对称性描述。性描述。因此，我们设计的神经元分类体系包括四个级别，分别是轮廓轮廓、分叉与分支分叉与分支、伸缩性伸缩性和对称性对称性，神经元的命名采用多级命名机制。24/32 4.2 4.2 基于主成分分析的分类方法的提出基于主成分分析的分类方法的提出 从形态意义上看，神

23、经元几何特征形态的四个主成分表征了神经元形态的四个方面：第一主成分基本反映了Soma Surface、Number of Stems、Width、Height、Depth、Diameter、Length、Surface、Volume、Euclidean Distance、Path Distance和Ralls Ratio这12个指标的信息，在形态上表征了神经元的轮廓信息的多少；第二主成分基本反映了Number of Bifurcation、Number of Branch、Branch Order和Fragmentation这4个指标的信息，在形态上表征了分叉点和分支的多少；第三主成分基本反映

24、了Contraction、Bifurcation Angle Local和Bifurcation Angle Remote这3个指标的信息，在形态上表征了神经元伸缩性的情况；第四个主分量基本反映了Partition Asymmetry信息，在形态上表征了神经元对称性的情况。25/32形态数据文件形态数据文件(.swc)各主成分值各主成分值F1F2F3F4C - motor neuron-A7.42880.1782-0.0001-1.1155E-08C - purkinje neuron-A-2.33653.9690-0.9995-0.7832C - pyramidal neuron-A-0.1

25、9860.31160.47711.3094C - Bipolar interneuron-A-1.41360.42202.06080.9853C - Tripolar interneuron-A-1.0906-1.4853-0.68110.8930C - multipolar interneuron-A-0.6827-1.8878-2.4329-0.0558C - sensory neuron-A-1.7068-1.85331.4714-1.9885表8 附录C神经元形态数据PCA结果一览表 从表8结果可以发现，使用第一主成分可以指导运动神经元的分类，从F1取值来看，运动神经元的取值明显大于其

26、他类型的神经元，表征了运动神经元具有非常显著的轮廓信息；使用第二主成分可以指导普肯野神经元分类；使用第三主成分可以指导感觉神经元的分类；使用第四主成分可以指导锥体神经元的分类。 26/32Fi值区间值区间-2.5以下-2.5, -1.5-1.5, -0.5-0.5, 0.50.5, 1.51.5, 2.52.5以上形态等级形态等级非常不显著不显著不明显一般明显显著非常显著表9 神经元形态分级标准 我们给生物学家关于神经元命名提出如下建议：1. 神经元的名字应该包括四个部分，分别指示该神经元的轮廓情况轮廓情况、交叉和分支情况交叉和分支情况、伸缩性情况伸缩性情况和对称对称性情况。性情况。2. 在命名神经元过程中，需要将每类形态的形态等级体现出来；3. 神经元命名可以综合使用阿拉伯数字、希腊字母、大写罗马数字等多种形式来直观地体现前两条建议的内容。27/32 评价：评价： 思路清晰，方法理解较深刻，应用得思路清晰，方法理解较深刻，应用得当，结果准确率高，表达流畅，新命当，结果准确率高，表达流畅，新命名方法略显牵强。名方法略显牵强。28/321212年赛题：年赛题：A A题：题