神经网络反演技术课件

人工神经网络的应用——材料光吸收系数与热源函数的深度剖面重构神经网络简介 结构、数学模型、应用反演简介 反问题的基本概念、主要应用神经网络与物理参数深度剖面反演 问题的提出、实验装置、神经网络设计结果与讨论 数值模拟结果、实验验证一、人工神经网络简介接受外界刺激的并转换成电冲击送入神经网络由大约个神经元组成信息的接收、感知、整合，并作出适当反应将神经网络的指令（电信号）转变为可识别的响应作为系统的输出感受器神经网络效应器基本结构：1、生物神经系统2、反射弧感受器搜集来自体内和体外的刺激神经中枢（网络）肌肉接受运动神经元传来的信号，引起人体的反应感觉神经元（输入神经）运动神经元（输出神经）3、生物神经元的结构与功能轴突末端（突触）树突细胞体轴突树突：树状神经纤维，神经元的接受区域细胞体：对由树突传入的信号进行整合及阈值处理轴突：单根长纤维，将细胞体的信号导向其它神经元或效应器4、突触突触：神经元之间功能性接触点。它是调节神经元之间相互作用的基本单位和功能结构。在突触处，神经冲动以电或化学形式由一个神经元传向另一个神经元。神经结构在整个生命期内不断改变，后期的改变主要是加强或减弱突触连接，新记忆的形成是通过调节突触强度而实现的。分类：轴-树突触、轴-轴突触、树-树突触、轴-体突触神经元的排列和突触的强度决定了神经网络的功能！5、神经元的分类（1）根据细胞体发出突起（树突和轴突）的多少，从形态上可以把神经元分为3类：假单极神经元

多极神经元

双极神经元

（2）根据神经元的功能：

感觉神经元

中间神经元运动神经元（3）根据神经元释放的传递物质：

胆碱能神经元

胺能神经元

氨基酸能神经元

肽能神经元

并行分布处理的工作模式可塑性和自组织性系统性信息分布式记忆8、大脑神经系统的功能特征单个神经元处理速度很慢，每次约为1ms；人脑对复杂过程的反应很快，仅需几百微秒，在此过程中人脑是一个超高密度的并行处理系统。人工神经网络的学习机制就是基于这种可塑现象，通过修正突触的结合强度而实现。大脑各部件可看成大脑系统的子系统，各子系统之间具有很强的关联性，一些子系统可以调节另一些子系统的行为。信息分布存储于整个网络中，并体现于神经元之间突触的结合强度上。但少量神经元受到损伤（或正常死亡）时，网络的总体功能继续有效，记忆与联想功能。

人工神经网络以脑神经系统的组成原理为构造基础，模拟了神经系统信息处理的四个固有特征，具有广泛的应用价值！9、神经元仿生——人工神经元(MP模型）单输入人工神经元模型：输入端（树突）：接收信号x加权w送入加法器。权重代表突触的强度加法器与传输函数（细胞体）：对加权信号总合，并由阈值决定是否激活输出端：激活后发出信息多输入神经元模型：常见激活函数（传输函数）1（1）跃阶函数（ThresholdFunction）对称型：非对称性常见激活函数2（2）斜面函数（RampFunction）常见激活函数3（3）S型函数（SigmoidFunction） 非对称型： 对称型：数学模型输入输出关系:

(tanh)(linear)InputhiddenoutputW1W2WeightmatrixRememberinformationbytraining向误差函数负梯度方向调权由网络输出OP

和导师信号Or定义的误差函数:3、样本的构造（β(z)的构造）随机生成的Fourier样本集随机生成的本征函数样本集Vk为热传导模型的本征向量样本在训练阶段作为导师信号！4、网络的输入信号表面温度频谱信号热源分布函数：格林函数：表面温度频谱信号红外辐射频谱信号实验信号（红外辐射线频谱）OriginalexperimentdataBysmoothingandinterpolating对于Fourier样本的识别OriginalprofilesNNpredictedprofiles6、对网络识别效率的检验NNwastrainedby:FourierHarmonicsandtheircorrespondingsignalsOriginalprofilesNNpredictedprofilesNNwastrainedby:Stepfunctionsandtheircorrespondingsignals对于台阶样本的识别NNwastrainedby:GaussianfunctionsandtheircorrespondingsignalsOriginalprofilesNNpredictedprofiles对于高斯样本的识别实验验证sample3Sample5由网络预报值计算输入信号ReconstructedprofileAmplitudesignalsPhasesignalsSample2ExperimentalsignalsRecalculatedsignals线性方程组的解概述最小二乘解奇异值分解正则解一、概述线性方程组或A：M×N阶矩阵(算子矩阵)X：N×1阶矩阵(解向量)B：M×1阶矩阵(常数向量)1、解的存在性及唯一性解存在且唯一(非奇异方程、适定问题)精确解：判断条件：例如：解不存在(奇异方程组、超定问题)增广矩阵(A,B)的行向量线性无关判断条件：例如：无解解存在,不唯一(奇异方程组、欠定问题)增广矩阵(A,B)的行向量线性相关判断条件：例如：解集合为：2、病态方程组

病态方程组是指，方程组的解对算子矩阵A的系数极为敏感的方程组（对于算子的依赖是非连续的）。方程组的病态性通常导致解对噪声扰动的敏感性。系数发生微小变化导致解的巨大变化！一个例子酉矩阵方程组病态性的判断病态方程组系数矩阵的奇异值由大到小迅速趋向0！

奇异值分解：

U：酉矩阵

V：酉矩阵

S：对角阵A的奇异值（AHA的本征值）将Г对X微分dГ=0,得到方程组：最方差乘解：代入最小方差解：其中：V1,V2,…VN为矩阵V的列向量，系数为或写为下列级数形式：四、正则解为了解