机器学习计算权重的方法

机器学习计算权重的算法 路璐 用机器学习来计算权重，有一定的优势，这种计算模型可以根据环境和调节的变化，所算的权重也随着变化，达到与时俱进的效果。对于已经设定好指标的被评估主体，指标体系中各指标有不同的量纲，需要转换为无量纲的标准化指标，关于评估指标标准化方法，在以前的总结中诠释过：评估指标分为正向型和逆向型。正向型具有越大越优的性质，逆向型是越小越优的性质。在fj（1jn）个评估指标中，m个评估方案（待评）ai（1im）,m个方案n个指标构成矩阵X=（xij）m*n叫做评估矩阵。在评估矩阵中，对于正向指标，取xj*=max1im（xij）0,则yij=xijxj*,( 1im, 1jn);对于逆向型指标，取xj*=mix1im（xij），则yij=xj*xij,( 1im, 1jn) 。矩阵Y=（yij）m*n称为线性比例标准化矩阵，经过线性化指标满足0yij1。并且正向和逆向型指标均化为正向指标，最好值为1，最差值为0.把评估过程按层次分为输入、隐含层和输出，每层间是全互联方式，同层间没有连接。设输入向量为XRn,X=(x1,x2,.xn,)T;隐含层ZRj, Z=(z1,z2,.zj,)T;输出层有YRm，Y=(y1,y2,.ym,)T。输入和隐含层权重为Wij，阈值为pj；隐含层和输出权重为Wjk,阈值为pk。可得到输出应满足：Zj =f(i=1nWijXi-pj)Yk =f(j=1lWjkZj-pk)函数f（*）满足f（uj）=11+e-u如果近似映照函数是F，X为n维空间的有界子集，F（x）为m维空间有界子集，Y=F（x）为： F：XRnYRm 通过P个实际的映照对（x1，y1），（x2，y2），（xp，yp）的训练，目的是得到权重Wij，Wik和阈值pj，pk （i=1,2n；j=1,2，l；k=1,2，m）映射成功后，寻找一个F，进行n维输入向量到m维输出向量空间的变换：F：RnRm Y=F(x)训练后得到权重，对其他不属于P(P=1,2P)的X子集进行测试，使结果满足正确的映照。机器学习的算法是对简单的学习规律的推广和发展。设输入学习样本P个，即x1，x2，xp，已知与其对应的规律是T1，T2，Tp，学习算法是根据实际的输出y1，y2，yp，与T1，T2，Tp的误差来修改其权重和阈值，使Yp与要求的Tp尽可能的接近。将阈值写入权重中，使pj=W0j，pk=W0k, Z0=-1, X0=-1,则公式改写为：Zj =f(i=0nWijXi)Yk =f(j=0lWjkZj)当第p个样本输入时，得到的输出Yl ，l=0,1，m，其误差为各输出误差和，满足：Ep =12l=0m(tlp-ylp)2，则总误差为E=p=1pEp =12p=1pl=0m(tlp-ylp)2设Wsh为任意的权重，Wsh包含阈值在内，E为一个与Wsh有关的非线性误差函数。令=Ep =12l=0m(tlp-ylp)2E=p=1pEp =p=1p（W,Tp,Xp） W=(W11,Wsh,)T学习规则实质是利用梯度最速下降法，使权重沿误差函数的负梯度方向改变。若权重Wsh的修正值为Wsh，则：WshEWsh令g为运算的迭代项数，由梯队下降法，可得到权重的迭代公式为Wjk(g+1)= Wjk(g)-WWjkWij(g+1)= Wij(g)-WWij式中为学习因子，从式中可知，Wjk是j个因子与输出第k个因子的权重，只与输出有关，代入同类项得：Wjk(g+1)= Wjk(g)-p=1pjkpZjp式中：jkp=（tlp-ylp）ylp（1-ylp）；Wij(g+1)= Wij(g)-p=1pijpXlp式中：jkp=Zjp(1-Zjp) k=0mjkpWjk其中学习因子取值越小越好。值越大，每次权重变化越剧烈，可能导致学习过程发生振荡。因此，为了学习因子足够大，又不振荡，得：Wji(t+1)= Wji(t)+ kiXki+aWji(t)- Wji(t-1)式中为学习因子，a为动量项，它决定上次学习权重变化对本次权重更新的影响程度。且01, 0a1.其均方根误差定量反映学习性能：E(W)=p=1Pk=1m(tpk-ypk)2Pm 式中P表示输入学习样本数；M表示因子输出层数。按照梯度最速下降算法，均方根误差应是逐渐减小。输入和输出是实数值，学习是否满足性能