数据标准化归一化处理_第1页
数据标准化归一化处理_第2页
数据标准化归一化处理_第3页
数据标准化归一化处理_第4页
数据标准化归一化处理_第5页
已阅读5页,还剩5页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

1、二维绘图函数小结P丄匚匚rploL雨斑1;戈多九11:J1.-iii:妝允.红&边图旳、丄丄晨rtrrwfc网恪帳pu 1 a r報q卄小图:J址hJ攵【”丄f 1 】:;g )(J1 ;r - / r v -J i .国semi lojx舶;|力的数1沪卜标图 *、1I.- H 1人縮;洱国;卄川世scmiloGiy工_乙a. C _攵乩4飞杠肛记stairs阶梯旳H I E . II 匸1白xs设K平标細uir淸坏图订口内c 1 u a e关WI汕】;审匚数据的标准化在数据分析之前,我们通常需要先将数据标准化(normalization),利用标准化后的数据进行数据分析。数据标准 化也就是

2、统计数据的指数化。数据标准化_处理主要包括数据同趋化处 理和无量纲化处理两个方面。数据同趋化处理主要解决不同性质数据 问题,对不同性质指标直接加总不能正确反映不同作用力的综合结 果,须先考虑改变逆指标数据性质,使所有指标对测评方案的作用力 同趋化,再加总才能得出正确结果。数据无量纲化处理主要解决 数据 的可比性。去除数据的单位限制,将其转化为无量纲的纯数值,便于 不同单位或量级的指标能够进行比较和加权。 数据标准化的方法 有很 多种,常用的有“最小一最大标准化” 、“Z-score标准化”和“按小数定标标准化”等。经过上述标准化处理,原始数据均转换为无量纲 化指标测评值,即各指标值都处于同一个

3、数量级别上,可以进行综合 测评分析。、Min-max标准化min-max标准化方法是对原始数据进行线性变换。设minA和 maxA分别为属性A的最小值和最大值,将A的一个原始值x通过 min-max 标准化映射成在区间0,1中的值x,其公式为: 新数据二(原数据-极小值)/ (极大值-极小值)z-score 标准化这种方法基于原始数据的均值(mean )和标准差(standarddeviation )进行数据的标准化。将 A的原始值x使用z-score标准化到x。z-score标准化方法适用于属性A的最大值和最小值未知的情况,或有超出取值范围的离群数据的情况。新数据二(原数据-均值)/标准差s

4、pss默认的标准化方法就是z-score 标准化。用Excel进行z-score标准化的方法:在Excel中没有现成的函数,需要自己分步计算,其实标准化的公式很简单。步骤如下: 求出各变量(指标)的算术平均值(数学期望)xi和标准差si ;进行标准化处理:zij =(xij xi)/si,其中:zij为标准化后的变量值;xij为实际变量值。将逆指标前的正负号对调。标准化后的变量值围绕0上下波动,大于0说明高于平均水平,小于0说明低于平均水平。三、Decimal scaling小数定标标准化这种方法通过移动数据的小数点位置来进行标准化。小数点移动 多少位取决于属性A的取值中的最大绝对值。将属性

5、A的原始值x使用decimalscaling 标准化到 x的计算方法是:x=x/(10*j)其中,j是满足条件的最小整数。例如假定A的值由-986到917,A的最大绝对值为986,为使用小数定标标准化,我们用1000 (即,j=3 )除以每个值,这样,-986被规范化为-0.986。注意,标 准化会对原始数据做出改变,因此需要保存所使用的标准化方法的参 数,以便对后续的数据进行统一的标准化。 除了上面提到的数据标准化外还有对数Logistic模式、模糊量化模式等等:对数Logistic模式:新数 据=1/( 1+e八(-原数据)模糊量化 模式:新数据=1/2+1/2sin派3.1415/ (极

6、大值-极小值)*(X-(极大值-极小值)/2) ,X为原数据数据归一化归一化是一种简化计算的方式,即 将有量纲的表达式,经过变换,化 为无量纲的表达式,成为纯量。归一化是 为 了加快训练网络的收敛性, 可以不进行归一化处理归一化的具体作用是归纳统一样本的统计分布性。归一化在0-1之 间是统计的概率分布,归一化在-1-+1之间是统计的坐标分布。归 一化有同一、统一和合一的意思。无论是为了建模还是为了计算,首 先基本度量单位要同一,神经网络是以样本在事件中的统计分别几率 来进行训练(概率计算)和预测的,归一化是同一在0-1之间的统计概 率分布;SVM是以降维后线性划分距离来分类和仿真的,因此时空降

7、 维归一化是统一在-1-+1之间的统计坐标分布。当所有样本的输入信号都为正值时,与第一隐含层神经元相连的 权值只能同时增加或减小,从而导致学习速度很慢。为了避免出现这 种情况,加快网络学习速度,可以对输入信号进行归一化,使得所有 样本的输入信号其均值接近于 0或与其均方差相比很小。归一化是因为sigmoid函数的取值是0到1之间的,网络最后一个 节点的输出也是如此,所以经常要对样本的输出归一化处理。 所以这 样做分类的问题时用0.9 0.1 0.1就要比用要好。但是归一化处理并不总是合适的,根据输出值的分布情况,标准化等 其它统计变换方法有时可能更好。主要是为了数据处理方便提出来的,把数据映射

8、到01范围之内处理,更加便捷快速,应该归到数字信号处理范畴之内。归一化方法(Normalization Method )1。把数变为(0,1)之间的小数 主要是为了数据处理方便提出来 的,把数据映射到01范围之内处理,更加便捷快速,应该归到数 字信号处理范畴之内。2 。把有量纲表达式变为无量纲表达式归一化是一种简化计算的方 式,即将有量纲的表达式,经过变换,化为无量纲的表达式,成为纯量。比如,复数阻抗可以归一化书写:Z = R + j sL = R(1 + j sL/R),复数部分变成了纯数量了,没有量纲。标准化方法(Normalization Method)数据的标准化是将数据按比例缩放,使

9、之落入一个小的特定区 间。由于信用指标体系的各个指标度量单位是不同的,为了能够将指 标参与评价计算;需要对指标进行规范化处理;诵过函数变换将其数 值映射到某个数值区间。关于神经网络(matlab )归一化的整理关于神经网络归一化方法的整理由于采集的各数据单位不一致,因而须对数据进行-1,1 归一化处理,归一化方法主要有如下几种,供大家参考:(by james )1、线性函数转换,表达式如下:y=(x-Mi nValue)/(MaxValue-Mi nValue)说明:x、y分别为转换前、后的值,MaxValue 、Min Value分别为样本的最大值和最小值。2、对数函数转换表达式如下:y=l

10、og10(x)说明:以10为底的对数函数转换。3、反余切函数转换,表达式如下:y=ata n(x)*2/PI归一化是为了加快训练网络的收敛性,可以不进行归一化处理 归一化的具体作用是归纳统一样本的统计分布性。归一化在0-1之间是统计的概率分布,归一化在-1+1之间是统计的坐标分布。归 化有同一、统一和合一的意思。无论是为了建模还是为了计算,首 先基本度量单位要同一,神经网络是以样本在事件中的统计分别几率 来进行训练(概率计算)和预测的, 归一化是统一在0-1之间的统 计概率分布:当所有样本的输入信号都为正值时,与第一隐含层神经元相连的权值只能同时增加或减小,从而导致学习速度很慢。为了避免出现这

11、种情况,加快网络学习速度,可以对输入信号进行归一化,使得所有 样本的输入信号其均值接近于0或与其均方差相比很小。归一化是因为sigmoid 函数的取值是0到1之间的,网络最后 一个节点的输出也是如此,所以经常要对样本的输出归一化处理。 所 以这样做分类的问题时用0.9 0.1 0.1就要比用1 0 0要好。但是归一化处理并不总是合适的,根据输出值的分布情况,标准化等 其它统计变换方法有时可能更好。关于用premnmx 语句进行归一化:Premnmx 语句格式:,T)Pn, mi np ,max p,T n,mi nt,maxt二 premnmx(P其中P,匸分别为原始输入和输出数据,minp和

12、maxp分别为P中 的最小值禾口最大值(最大最小是针对矩阵的行来取,而 min (P)是针 对矩阵的列来取)。mi nt 和 maxt 分别为 T的 最小值和 最大值。premnmx 函数用于将网络的输入数据或输出数据进行归一化, 归一化后的数据将分布在-1,1 区间内。我们在训练网络时如果所用的是经过归一化的样本数据,那么以后使 用网络时所用的新数据也应该和样本数据接受相同的预处理,这就要用至| tramnmx 。关于用tramnmx 语句进行归一化:Tra mnmx 语句格式:Pn =tra mnmx(P,mi np ,max p)其中 P和 Pn分别为变换前、后的输入数据,maxp和0

13、minp 分别为premnmx 函数找至j的最大值和最小值。(by terry2008 )matlab中的归一化处理有 三种方法1. premnmx 、postmnmx 、tramnmx2. restd、poststd、trastd3. 自己编程具体用那种方法就和你的具体问题有关了(by happy )pm 二max(abs( p(i,:); p (i,:)二 p(i,:)/pm;for i=1:27 p(i,:)=( p(i,:)-min( p(i,:)/(max( p(i,:)-min( p( i,:);end可以归一到0 1之间0.1+(x-mi n)/(max-mi n)*(0.9-0

14、.1)其中max和min分别表示样本最大值和最小值。这个可以归一到0.1-0.9矩阵归一化归一化化定义:我是这样认为的,归一化化就是要把你需要处理的数 据经过处理后(通过某种算法)限制在你需要的一定范围内。首先归 一化是为了后面数据处理的方便,其次是保正程序运行时收敛加快。在 matlab 里面,用于:归一化的方法共有三种(1)premnmx 、postmnmx 、tramnmxpremnmx 指的是归一到1 1。(2)prestd、poststd 、trastdprestd 归一到单位方差和零均值。(3)是用matlab语言自己编程。关于自己编程一般是归一到0.1 0.91。为什么要用归一化

15、呢?首先先说一个概念, 叫做奇异样本数据,所谓 奇异样本数据数据指的是相对于其他输入样本特别大或特别小的样 本矢量。m二0.11 0.15 0.32 0.45 30;0.13 0.24 0.27 0.25 45;其中的第五列数据相对于其他 4列数据就可以成为奇异样本数据(下面所说的网络均值bp )。奇异样本数据存在所引起的网络训练时间增 加,并可能引起网络无法收敛,所以对于训练样本存在奇异样本数据的数据集在训练之前,最好先进形归一化,若不存在奇异样本数据, 则不需要事先归一化。一个小程序:p=1.37111.38021.36361.35981.35021.34041.3284 1.3160 1

16、.3118 1.3032 1.2989 1.2945 1.2923 1.2923 1.2856 1.2788 1.2742 1.2672 1.2577 1.2279 1.1903 1.0864 0.9956 ;t=0 1.38 1.68 1.98 2.08 2.23 2.53 2.83 2.93 3.13 3.23 3.33 3.43 3.53 3.63 3.73 3.83 3.93 4.03 4.13 4.23 4.33 4.43;u=p;归一化tt=t;p=( p-mi n(p )/(max( p)-mi n(p );%g t=(t-mi n( t)/(max(t)-mi n( t);net=n ewff( minmax(p ),23 1,ta nsig pu reli n,tra in gdx);n et.tra inP aram.e pochs=1000;n et.tra inP aram.goal=0.001;n et.trai nP ar

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论