红外与近红外光谱常用数据处理算法

1、一、数据预处理（ 1） 中心化变换（ 2） 归一化处理（ 3） 正规化处理（ 4） 标准正态变量校正（标准化处理） （ Standard Normal Variate,SNV）（ 5） 数字平滑与滤波（ Smooth）（6） 导数处理（ Derivative ）（ 7） 多元散射校正（ Multiplicative Scatter Correction,MSC ）（ 8） 正交信号校正（ OSC）二、特征的提取与压缩（ 1） 主成分分析（ PCA）（ 2） 马氏距离三、模式识别（定性分类）（ 1） 基于 fisher 意义下的线性判别分析（ LDA ）（2） K-最邻近法（KNN ）（ 3）

2、模型分类方法（ SIMCA ）（ 4） 支持向量机（ SVM ）（ 5） 自适应 boosting 方法（ Adaboost）四、回归分析（定量分析）（ 1） 主成分回归（ PCR）（ 2） 偏最小二乘法回归（ PLS）3） 支持向量机回归（ SVR）一、数据预处理（1） 中心化变换中心化变换的目的是在于改变数据相对于坐标轴的位置。一般都是希望数据集的均值与坐标轴的原点重合。若 Xik表示第i个样本的第k个测量数据，很明显这个数据处在数据矩阵中 的第i行第k列。中心化变换就是从数据矩阵中的每一个元素中减去该元素所在元素所在列 的均值的运算：Xu二冷，其中Xk是n个样本的均值。（2）归一化处理归

3、一化处理的目的是是数据集中各数据向量具有相同的长度，一般为单位长度。其公式为:2#归一化处理能有效去除由于测量值大小不同所导致的数据集的方差，但是也可能会丢失重要的方差。（3）正规化处理正规化处理是数据点布满数据空间，常用的正规化处理为区间正规化处理。其处理方法是以原始数据集中的各元素减去所在列的最小值，再除以该列的极差。x'ik鱼空max( x) min( xk)该方法可以将量纲不同， 范围不同的各种变量表达为值均在01范围内的数据。但这种方法对界外值很敏感，若存在界外值，则处理后的所有数据近乎相等。（4）标准化处理（SNV ）也称标准正态变量校正该处理能去除由单位不同所引起的不引人

4、注意的权重，但这种方法对界外点不像区间正规化那样的敏感。标准化处理也称方差归一化。它是将原始数据集各个元素减去该元素所在列的 元素的均值再除以该列元素的标准差。XikXik -XkSkn7 (Xiki £2-Xk)#（5）数字平滑与滤波数字平滑与滤波的目的在于消除随机误差与仪器的噪声，它是一种最简单的滤波方法。 平滑的实质是略去数据中较小的偏离，而保留具有较大偏离的部分。设滤波值为y*k，原始信号值为yk，两者间的关系如下:my*k2m 1'yk jj =-m式中，k为原始数据点的序号，2m+1表示窗口（滤波带宽）的大小，m为调节滤波带宽的参数。随着窗口的移动，即得到经过滤波

5、后的 7一系列信号值。滤波使数据的噪声减小，但 在实际应用过程中应慎重选择滤波带宽，否则会扭曲数据结构。对分析信号的滤筱即以采用多种方据*在这里主要介绍多项式平滑，在移动惭口均值滤波中.所有原始数据均玲以相同的权乘*这样前滤波往往使 数据扭的。若蛤数据以不岡的权电，则可訣得更有效的散据平滑° Savitzky-do- 1町谑波就是这样 种方法，它是-沖基于城小二乘廡理.能够保翔分析信号中的 有用倍息.消阶斷机碟声的农救的数据平滑方法.它是利用高次多项试来进冇数据 的平滑*其实质是一种去卷积运算石谶有并刖+】各爭问距(即各相邻变嵐间的孵离相等)就询点曲<< = ->&

6、#171;. m + 1.亠*仰+ 2、* G,.in-1. 7n> -在这些实验点处的测星值可对应写 作：M (i= zn + 1, m +2* * 0» .J?,1 * my,这里，2j?i + 1 称为 滤渡窗口的宽度，或滤波带宽E滤波使用的原始数据的数目.通常，从童测点 组成数据集中取一子集作为甜FK而不是用梟亍数据点。现考慮采用上一 1次多顼式进行拟合.即*禹二砂十剖#+© W +卫£ I泸一Y如-”凤 2j?t+ I 丨 X 金 A *丰 1 H- ®( 2jh + |) x i于是就有了 亍連样的方程*钩战克尤线性方程组，要求解其中址

7、个拟合参数 (j-0, 1, 2. i-l)i选取的滤披器宽度推应大于卓至少等于屛当n = k时、 可用线性代数的方法求解其躊数、而当则必须采用最小二乘法求解。因 此就有y-1TTJf 沁上 Ly»+ ；1一曲+ 1卄_科|)占町_1_ 11 II* F«Mgi申* ftM.1m*(, m >*_1.»Isr4A，A的最小二来解为F的模型预测或滤波直为Y = X ' AX - (XT * X) XT -y = B * V(10 1)这里” H仪与X矩阵有关这样只要蜡出滤波带宽(2切+打 和多项式的次慕 "冷 就惟一地确定TH距阵。0縞阵是一

8、个(2m+l)(2m+>阶矩阵、其元 素称作浊波系数，UO-1)即为滤波公式，它体现了谑波值与原始數据F矩阵之 间的线性关系*包冷了(凸皿一1)个表达式，用于计算滤波窗口内各点的滤波值.确定滤披带宽”和爭项式的最高欢稀(£1，由上述所述即得村应谑波公式" ill u = 5和k-=3得5点2次滤液樓型，涉及的$个滤波公式如下二病茁十 1 J：'刈一 5” +3y4A 善一王y 2 + 12y 7 + 1+ 2y 2叮夕】r圭C 5y筈+ 6，+12旳+ 1心+9,丿一 3旳十Sj十31扎）其中$知 和.论为当前邂口两端的懑波值讥 为窗口中血点的滤波值.同理.可

9、氐得到其它谑皱模型的滤波参数*对于儘测敎据点数大于滤波带宽科的谨测数榕集，则先求出中心点和两端的滤 诜公式*然后将窗口向前移动，按中心点滤渡公戎求每个窗口中心点的滤波（fi，对 于处于匝始数粥集两罐的亦个数据、剿利用两端的点滤波公式计算相应前魄 波值.敕值滤波的关理参数是滤漩带宽.为了进行适当的滤状，须趨術下列准则. 泄波带童耽决予谱帶.或诸峰的最人半寵度.太冷的带宽车能满足平滑要求” 太大则会扭曲原始数据的结构. 淞渡对峰髙的扭曲较堆面鞅更沟严宝*因此在进行厲峰高为基准的定量分 析时.应采用较小的滤波带宽"滤波带宛时谱带扭曲的怆响町用例对滤波带宽来描述.即式中.內为滅波带邀*昴 为

10、i晋峰的最大半嶂宽若测宦峰面积*見冇在相对滤披带宽大于1时才存在明尿误養*当测定峰离 时r相对滤波带宽应小T 0. 5.（6）导数处理冀求得多坝式腮波公式的拟合参数矢秋后*就可利用惭口的2 + 1个数据对 诞门中心点（r = 0）求信号的/阶导数*対平梢爹项式求冷冇弩产二勺十加訂十3旳吝“一牛 ,7如仅在窗口的中心点处评估导数*则求p阶导数= pa （p= i ,2 v左一J即在固口屮心求龄測數据y的p關导数等于A羽阵的第p + 1个元戡认乘以 P的阶乘耳信号求导是非常有用的一种信号处理方法.它可以稍除信号的背景.确定谱峰 的位腎.以及改善港峰的分辨率（如里霄峰的分辨几（7）多元散射校正（ms

11、c）由于样品的不均匀性 （粒度分布）常导致所测的样品光谱具有很大的差异性， 不同批号的 同一样品所测的光谱从表面看， 也可能有很大的差异。在许多情况下，散射引起的光谱变化 可能要大于样品成分引起光谱的变化。 散射的程度与光的波长、颗粒度和样品的折射指数等有关，因此在整个光谱范围内，散射的强度是不同的，通常表现为基线的平移、旋转、二次 和高次曲线。MSC是由Geladi等人提出的，目的是校正每个光谱的散射并获得较理想的光谱。MSC法假定与波长有关的散射对光谱的贡献和成分的贡献是不同的，理论上，通过光谱上许多点的数据分析，可以把这两部分分开。MSC方法认为每一条光谱都应该与“理想”光谱成线性关系，

12、而真正的“理想”光谱无法得到，可以用校正集的平均光谱来近似。因此每个样品的任 意波长点下反射吸光度值与其平均光谱的相应吸光度的光谱是近似线性关系，直线的截距和斜率可由光谱集线性回归获得，并用以校正每条光谱，截距（即附加效应）大小反映样品 独特反射作用，而斜率大小则反映样品的均匀性。平均光谱：耳二MSC kiE：上述鱼式屮* A足校正集的比谱则&为第1个样品的）ti乳气和勺址第1个朮谱4与平均光谱2的线性回归的斜率与截距，都是列向量通过调整肺和 a ii'j不同*便得/i减少光谱?;：»的同时，尽戢保留原右的q化学成分有x的倍息. 通过校正,随机变异得到饋大可能的扣除。

13、在光谱与浓度线性关系良好和化学 性质相似的情况F, MSC校正的效果a好°二、特征的提取与压缩（1）主成分分析（PCA）又称抽象因子分析，主成分分析是把原来多个变量划为少数几个综合指标的一种统 计分析方法，从数学角度来看，这是一种降维处理技术。思想：利用降维的思想，把多指标转化为少数几个综合指标。 在研究多变量问题 时，变量太多会增大计算量和增加分析问题的复杂性， 人们自然希望在进行定量 分析的过程中涉及的变量较少，而得到的信息量又较多。主成分分析是解决这一 问题的理想工具。（主要分析众多变量之间的相关性）一*数摒结构适合用主成分分析的毅据具有如下结妁;指标编号XI X2X3X4Xm

14、1?%3X x.X «f = J = L2y = 1 円2 ，悍i主成分分析最戈的问题是受量纲的影响，阂 此，窝际应用中，需要对数据赴行标准化。一般使 用协方差鉅阵刀或.相关系数矩阵R进行分析。蛊实际斫屯中由于主成分的卸的赴为了吟 维,减少变量的个救，故一般垃取少量的i成 分r不翅逹5或6个丿，只要它们能包舍原变董 信息量的80%上即可。三、主成分分柝的具体实现设和关距阵ARpXp）求静征方程| R- A I | = 0. 其解为特征很X舒解由小到大进行排序:Z >X ->/l >01£P1J （c,心）卖际上是对应于、的特梃向量。若廊 变唾服从正态分布，

15、则各主成分之间相互独立；2J全部p个主成分所反映的口例样本的怎住息，等于 P个原变量的总宿息°信息量的多少.用变量的方差 来度务73）各皇成分的作用丸小是：乙4丿第i个主戒分的负故率是 扎 （- X I 00%£科5丿前口个主成分的累计贡秋率是：肝Z召qX 100%PJ-t盛应用对，一般取累计贡献車为80%以上比较好°四、MATLAB较件实现pc, score, variance, t2J=princoinp(X)输入教据矩阵:xp8#.兀1心亠2B-V2Fr卜X bga一L户一般地，要求n > po模型：要求m < p o输出变量： pc主分董召的窠

16、数（CjI，用卩），也叫阂子管:救；注 意：pcTpc-单心阵 HO比是主分量T的得分隹；得分距阵与数据龜眸 X的阶数是一敌的； variance是hcte对应刊的方差旬量，即相关余就 矩阵R的特征值；家易计算方盖所占的百分比percent-v - 100-variance/sum（variance）:t2恚示检脍的t厶庇计董（主要用于方誉分析丿关于主成分的实际意义要结合具体问 题 和有关专业知识才能黑含出含理的解释口虽然 利用主成分本身可对所研究的问题在一定程 度上作分析，但主成分分析本身往往并不是 灵终目的，更重要的是利用主成分综合原始 变疑的信息，达到降维的目的t然后对数据 作进一步的分

17、析*咬口回归分柄 聚类分折" 判别分析等。1.1主成分分析计算步骤 计算相关系数矩阵在（3.5.3）式中,>111221a225丁 p1rp2R 二rpp(1)rij(i，j=1，2,，p）为原变量的xi与xj之间的相关系10#数，其计算公式为rijn(XkiXi)(Xkj XJk =1I-nn为)2' (Xkj -Xj)2k d(2)因为R是实对称矩阵（即rij=rji），所以只需计算上三角元素或下三角元素即可。# 计算特征值与特征向量首先解特征方程卩J-R=0,通常用雅可比法（Jacobi）求出特征值i（i =1,2/ ,p），并使其按大小顺序排列，即一 -，- p

18、-0 ；然后分别求p出对应于特征值入的特征向量©(i =1,2,p)。这里要求囘=1,即迟e,2 =1,其 j 二中q表示向量©的第j个分量。 计算主成分贡献率及累计贡献率主成分乙的贡献率为p(i ",2,p)v 'kk 4累计贡献率为i(i =1,2/ , p)V 'k k £p般取累计贡献率达V 'k k A85 95%的特征值 dd，韦所对应的第一、第,，第m (mW p)个主成分 计算主成分载荷其计算公式为lj = p(Z,Xj) =Veij(i, j =1,2，p)(3)得到各主成分的载荷以后，还可以按照(3.5.2)式

19、进一步计算，得到各主成 分的得分Zl2Z22aZn2Z1 mZ2mznm(4)1.2 matlab中主成分分析的函数 ：1. pri ncomp功能：主成分分析格式：PC=pri ncomp(X)PC,SCORE,late nt,tsquare=pri ncomp(X)说明：PC,SCORE,latent,tsquare=princomp(X)对数据矩阵X进行主成分分析，给出各主成 分(PC)、所谓的Z-得分(SCORE)、X的方差矩阵的特征值(latent)和每个数据点的 Hotelling T2 统计量(tsquare)。2. pcacov功能：运用协方差矩阵进行主成分分析格式：PC=pc

20、acov(X)PC,late nt,explai ned=pcacov(X)说明：PC,latent,explained=pcacov(X)通过协方差矩阵X进行主成分分析，返回主成分(PC)、协方差矩阵X的特征值(latent)和每个特征向量表征在观测量总方差中所占的百分数(explained)。3. pcares功能：主成分分析的残差格式：residuals=pcares(X,ndim)说明：pcares(X,ndim)返回保留X的ndim个主成分所获的残差。注意，ndim 是一个标量，必须小于X的列数。而且，X是数据矩阵，而不是协方差矩阵。4. barttest功能：主成分的巴特力特检验格

21、式：ndim=barttest(X,alpha)n dim,prob,chisquare=barttest(X,alpha)说明：巴特力特检验是一种等方差性检验。ndim=barttest(X,alpha)是在显著性水平alpha下，给出满足数据矩阵X的非随机变量的n维模型，ndim即模型 维数，它由一系列假设检验所确定，ndim=1表明数据X对应于每个主成分的方 差是相同的；ndim=2表明数据X对应于第二成分及其余成分的方差是相同的。(2) 马氏距离主成分分析(PCA)的目的就是将数据降维，以消除众多信息共存中相互重叠的信息部 分.PCA方法得到光谱的主成分和得分，得分为压缩后的光谱数据使

22、用得分数据代替原 始光谱数据计算马氏距离，不仅能反映全谱数据信息，而且也能压缩参加计算马氏距离的变 量数，并能保证肼矩阵不存在共线问题具体方法如下：计算得分：九十二 X® x( 1 )式中X为光i普矩阵汕为载荷矩阵“为样品数为 变量数J为主成分数.计算校正集样品到平均光谱的马氏矩阵：T-TY ( 2 )式中M为标准光谱集因子分折中猖分阵(Score)的 协方差阵* £为样本匚的得分向虽匸为"个样品的 平均光谱*检验这必灌品虫励片样品存在的闽值范Ds D = e aD( 3 )式中%分别是D的平均值和标准差沁为调整阈 值范的的权重系数.如果当C W Dt，则认为样品

23、i与样品平均光谱 在主成分空间中相似，0-0值越小，相似度越高； 反之亦然*设且不同的阈值范围参数化从而调节相 似度的离低，当总值越大,相倔度越高;反之,相似度 越低，成为异常样品的可能性就越大针对上不同 的倉值所选取的阈值范围，分别便用PLS建摸回归 预测，来进行阈值范围的选耽在MATLAB中有函数mahal可以调用求解马氏距离。13三、模式识别(定性分类)(1) 基于fisher意义下的线性判别分析(LDA )在20世纪30年代提出帕种料别方法，KP Fisher分析这种方法的中 心思想是设法找出一最佳投影方向，将和维空间中的点投影到低维空间*如一维 空间中*使不同类的点尽可能分离开来.然

24、后在低维空间中再分类，以两类样本的分类为例.对两类样本的空间，可以垮样*的数据记为工电*i = ljmj 耳=* 2,.Gj卡 =12*1 盘丄+皱 十*亠淞* = JV其中藍表示类*血丧示类童中两样程数.而多维空间向一绯空间的投影可写为FN鸽严=g = 1,2 ；盘=池占i-1戌中*卫=(3 + 5、十、%.)'就是要寻找舵投彫方向乜令和b(Z)分 别为凰Z的组内和组间的离差G "«认小=2 s(“一无屛K * i .4 G拭屛j S恤逐_勧a >可以证明再可以从下式求得triiii1 叫呵 芝“丿_ 一、 c: ?j (工r 十加厶j fl 2 (与i无关

25、，对所求的仅起放大或编小减祚用*求得帝后*则可计算两组样木在投影空间上的均值及庄直线上的分界也Z筝T十筝2对于任意绪定的样本*算岀它们的刿别函数.即投形点PIZ(jt)工J耳无当ZU) W 时.IE样本归为第一类母体，反之则为第二类母体,、相关知识ii已知N个d维样本数据集合其中，Ni个属于.1类，N2个属于2类。Fisher线性判别的基本原理是：把 d维空间的样 本投影到一条直线上，形成一维空间。找到某个最好的、最易于分类的投影方向，使在这个方向的直线上，样本的投影能分开得最好。这就是Fisher法所要解决的基本问题。对 xn的分量作线性组合yn = wT Xn, n =1,2,N（ F2.

26、1）从几何意义上看，若 w =1，则每个yn就是相对应的xn到方向为w的直线上的投影。w的方向不同，将使样本投影后的可分离程度不同，从而直接影响识别效果。寻找最好投影方向w ， Fisher准则函数为,w T SbwJf w讥（F2.2）w Sw w式中，Sb为样本类间离散度矩阵，Sw为样本总类内离散度矩阵。使 Jf w取极大值时的w即为d维空间到一维空间的最好投影方向：w -ST1 m1 -m2式中，mi,i =1,2为在d维空间的两类样本的均值向量。利用先验知识选定分界阈值点yo，例如选择yji）_r1+r20 2N1i1N2r2N1 N2yf ）=帛1十帛20 2In P 1 /P 匕2

27、 N2 _2（F2.3）（F2.4）（F2.5）（F2.6）式中，m,i i,2为投影到一维空间的两类样本的均值，P（d ）,i =1,2为两类样本的先验概率。对于任意未知类别的样本X，计算它的投影点 y :HT,、y = w X（ F2.7）决策规则为y y。，x -1y y0，x 匕MATLAB中有函数 fisheriris 、classify可以调用（2）K-最邻近法（KNN）MATLAB里面的函数knnclassify可以调用12K最邻近搓在化学匕应用极为广泛，它是直接以模式识别的基本假设即同类 样本在模式空间相互靠近为依据的分类方法。这种算法极为直观.即使所研究的体 系线性不可分，这

28、种方法仍可应用.KNN法对每_个持判别的未知样本，逐一计算与各训练样本之问貳距离，找 岀其中最近的K个进行判决。如K=l,很自然未知样本的妇属勺这一个屋近邻样 本相同如K>1*则未知样本与这K个最近邻样本不一定属于一类。这时要釆用 “表决”的方法*对这K个近邻的情况按少数服从多数进行表决。一亍近邻郴当予 像.铠希虑Kf邻近与未蚪样本的距鳶有所判别.所行加权.距翦 最近的近邻的类属.应F以较虫的权。土守或* 土寺I- s5式中叫为近邻的类属取值。对两类分类.F属于第一类时取属于第 二类时取“一广U为未知样本与第个近邻的跑离* K为尿近邻数 当£>0 时*则未知样本归人为类1

29、$否则归于类霊这种方法因采用获爭数“票押的方迭确定未知样本的山属*所以K般采用 奇数。K值不同时，未知样本的分类结果可能不同。KNN法结杲的確确性与K值的关系较大.虽燃现在K值的选择尚无规律可 鹉但实际中K值的选择一般可采用类直心法.即将训练桑中每类的酣心求出. 比较未知样本与类霓心的距离，并眼据最小距离来判别术知徉本的类别归属，此时 因判别未知样本时仅需计算它与类重心的閒离，所以计葺量可以大大减少.KNN &尢需翌求对不同类的代发点线件可分，只荽用毎个未知点的近邻类来 判别就印以q KNN法也不需要作训练过程，KNN法的磯点是它没有对训练点作 信息压缩，因此蒔判别一个新的未知点那需要

30、把它和所有已知代丧点的即离全部箕 一邇，因此计算上作暈大、对已知代表点太多的Ifi况不甚侖适。但正是因为没有作 信息压齬,而用全体已知点的原始信息作判据*故有时可得利极好的曲报准姗率. 其效果一般优于或等于其它摸式识别方肚"13(3)模型分类方法(Soft independent modelling of class analogy , SIMCA )S1MCA1 5tJ|(soft independent modeling of class analogy)法圧模型分炎方法*即对每一类构造-个主成分模型*在此基础上进行样本的分类“1976年由瑞典学fiS.Wold岀,S1MCA方法

31、的特点是按样本类别分别处理样本的数据 假定斑一类样本的分布有其特有的规律性，我们可以用一亍统一的线性方程近f以 地描述其分布.则町按SIMCA/Tffi处理口假定有科个样本点分布在折维空间屮、已知有类.还包拆未分类的样本。川为样本数：拥为变痕数如波怏数人q为炎数：-为类内部的样本数, 对类中其上成分冋归模型为：(3-4)式屮 门一主戚分数；/?一主成分参屋，对应肝变量几 一得分变量.对应于样本数R； 吗一齐样本的诸变匮张开的模式空间的实际维数； 囂一拟合谋羌。步骤匕L对X进行标准化取2.交互验i正法确定主成分数心将训练果门的菜 类进行分组，分细应毛虑到样本的代Sft，即将划分 的任何一组样本从

32、训练集中除去后，应不会影响到腹训练集的代表性。 首先将该类的第一组样本从训练集中除去.以釉余样本做训练集，建立 主成分模型*迸行拟合欄 便用中建立的模型去拟合彼除去的样本,令八12-皿-】或”-1 (取 其屮较小的人制角于每个灯值.计算这些样本的光谓与其拟合的比诜间的残差, 求出对应于的残差平方和吒。将这些样本重新放回到训练集中。再从训练集中除去该类的另外一组样本*重复步骤（引，直到该类中的 每一组样本恰好彼除右I次为止。 将上述计篦得到的齐组的残差半方利相川I,得到钱差半方和Q °根据F式进行厂检能.从而确定fiffc ft.G-5) 以同样方式确疋齐炎的最佳主成分数。即建立起各娄

33、的拟合模型。井计算训练集的残差标准差,U-6)15#3.未知样本的分类在为训练集的每一类"建立了模型后復得到一套参量如厂0利便用 校验集样本进行石察，用§类的£成分模型对未知样本做冋归拟合：G7)璋二立氏烏+略C>=1其中F为回归得到该样本的得分向量.这时可考察它是否落在第彳类的口分 范围内口同时.由各变屋八册个）的占和自由度 5-&J 计算我羞标准苣：13-8)#判別样本"尼否属第g类”使用F检验:尸也/仏脸）7（对0-9)#将计算得到的F值和佗餐比较.如果则样本属J冷类：否则，样 本将归于其它类，再用训练集屮另一类的模型去做上述的眞交拟

34、合过程.直到确 定类属为止。如果样本不属于训练集屮的任何一类，则将其归类于训练集外的一 新类。刃MCA法属于类模型方法.即対毎类构造-个主成分姑冋门模型*并怎此亘 础上逬行样本的分类。例如有如下的数据矩阵：&12 I rikN1YliB H 十孙片2Ml切I! 9-i*ytv3Hl*«id>489a.'mnl!iB«i-ry总iB>!»4 H-I- >*'B(|«'A>IBB$>-Ui>*rtXmk未分类年事V-WiifY 7赛1类Q% i ”训馀隼其屮N为样本数.M为变#, HP维数，

35、Q为姜数对于某一类样本*主成分回归棋型为A升ai + A 図&» +5式中，a为变AN的均值I A为主成分数M 8和占是为使偏弄E达到极小的 #«<对于多类样本，则主成分回归模型为：曲-沪4- 土盘+即n L 1其中g表示类.SICMA方法的计算歩骤如下.第1步数据标淮化.第3步：主成分数A的确定.第3歩：主成分模型中p和8等参数的确定.这两个参数可以由矩阵丹乞® 对角化求蕩.密阵均第帀类训练集屮每一个变虽减去平均值后所形成的散据 阵，武泸可由Z值减去公武中0和0和来积项得到，则方差可曲下朮求得'如 M=£ £ (W )

36、土 / (f Av 1) (M A*)16一旦毎-类中匕述劈数求出之后，即可运用主放幷回归模式先预测未知锌本。 第4步龙耒知样本预测 用主成甘回归橈式去拟合未韧样本”拟合方法与一般 多元回片根同，此时爲二刘>&严为因变就.<«-1. 2,* A）为自变蜀各匸坯严=2用'+即tt r 1武中* 口为回归系数.样*的眾合程度可由下式表示*M矽=另亿/-凡）判别样本PJR否©类*可用F显著性检验，其公式为：F =陽/5厂入一 1J “娜猪何褂F值的计算值与临界值自由度分别为（M-AJ和<n.-Av-n <M- A,）相比较，若FVF临界，则

37、样本卫归人g类】否则務拟合于其它类，此时F 检脸性公式为；F=S /弟*第3步；两类间料個廃 用类$中的所有样本去拟令类Q主成分模型刚可以 得到类间的相似度测量.类和类间的方掘为附曲二左士 （缈mi将计算得到的方魁与第m母中计请徘到的方蓋相比较.到两类何相個度 的测量.第6歩t变昌巔巒性的测Bt变猷在判别中的曲嘤性可由残余方差与脇始数据 的方差相岀较面得.若原始数据经过标准化处理.则所有变Jt i的方基祖同：毗=丈左。炉加“ 1为亦一】 m1<?-刃=£必打E叫专.11q親-丈茲即尸臣仇-人-"# * 点* 呼由此町得t 口 = 1 一学V-U值做大*即我余方丼与原姙

38、数据方璧的比值愈小*该变最裡主成分機型中 的作用就越大第T步*样本相光性测倉 与变趙相同类.即将样本的残余方差计算式f第4 步中）与集+撚的幣个方差什篇式（第3堆中）相比较（F检釜）其残余方差越小该样4与此类的相关性越大°17(4)支持向量机(SVM )一、相关知识已知数据Xi, yi , X2,y2 , x ,y X；其中，X - " Xi,i =1,2,，！二：表示 个n维样本集，Y - 'y, i = 1,2,-1标记两类样本。对于一个新的数据 X，判别X属于哪一类，即判断 x ,y中的是1。支撑向量机可表示为如下的二次规划问题：1 I tIZX agyyK(

39、片，xj)-z %2 i 4 j 4i 4而相应的判别函数式为其中:minas.t.' yi ",i 40 辽冷乞 C, i =1,2,r £f (x) =sgn(w* 沖(x )+ b*) = sgn 送 口2i yiK(Xi, x) b(F6.1)(F6.2)£w*=2；Xi )=H 时yi*(Xi ),i 4：ij：0b - -1mgx 苗 a；yjK (片,x+ min y事,：j 0c厂0 C不同的核函数表现为不同的支撑向量机算法，常用的内积函数有以下几类:(1)d阶非齐次多项式核函数和 d阶齐次多项式核函数ddK x , Xi = x Xi1

40、与 K x, Xj i i x Xi高斯径向基核函数rK (x, x ) = expS型核函数K x , Xi = tanh ； x x亠 c指数型径向基核函数rK x , Xi =exp -线性核函数K x , xi 二 x x线性核函数是核函数的一个特例。(F6.3)(F6.4)(F6.5)(F6.6)(F6.7)19(5)自适应 boosting 方法(Adaboost)四、回归分析（定量分析）多变駅校正（多元梳亞）方法是同时若虑去个测量系统（称为响就向翳或矩阵 F与多个组分含最麻为锻度向冒或矩阵X）之间的对应关杲.= 通过一定的数学方法建立校正模型，并确定模型参数。多元校正井不是单变屋

41、校正 的简弟惟广*它可比解决很多单变量校疋中披认为不可能实规的问甌.多变竄校正 多种多样、如多元线世1可归、丙子分析、主成分回归祛和隔最小二乘法等*化学计 量学生聲就是解次务变量校正问題即硏究多组分不经分离或掩蔽进行同时测定的 问SU计算机科学与扛术的发展便人们能住瞬间获得大量的富含信且的多誰化学 漬:数据*也使复杂的数学怂理过移辱以噸利进行.使大批不论是否对数学知识稱通 的技术人员那能怫应用化罕计斎学的方法去懈决更杂问翱*进而促进化学校正理 论的进一步发展.（1） 主成分回归（PCR）主成井回归是在因子分析的基础上进行的最小二乘回归分析.以实现多缜合軽 合休系同时测定时的零元校正*它可以很好

42、地解决线性回归所遇到的变竜线性相 关.矩阵桶态或变亘过多所带来的相关问题*设有此学量测榛刑；' “ x p X"X 阪目 m-x *#、g首先对&阵进行主成付分析：T-XPT阵的堆数可肛与囂阵相同，如果使用粘个T阵秦加回归”这样得到的结卑 与多元线性回归没冇多大的区别，而主成分回归一般貝有荊面更个主成分参与回 归，因为前面的冷个主战分包含矩阵的绝大訊分有用的倍息，而后面的主成 分则往往与噪声和干扰因素有关，这样雅与主成分回归的是少数主成分组成的扼 薛，在维数上要远远小于X阵.将降维后的阵与F阵进行參元线性回归F = TB + EB-CTD 】尸丫对于未知样品有；Km-

43、TuriB=X.nPB由此町见*主威弁回归通过对参与回归的主成分的合理餘选*充分利用了数据 倩息*有效地去掉噪声而捉离模型的抗干扰能力*主成分间相交正交的性质，解抉 了名元线性冋旷1中的共线性问题=主成分回归的算法r 输入校正集审阵X与相应的圏磁.矩阵响应矩阵）门 对F阵址存主成分分析得到因产数厂 以及抽象因于F和y- nT 根据下式于I算系敬阵：G=tl r>-iTlA 输人未知样品的测军数据，并悵堀下武计箕转换矩P4 TurnTun-yunv 根据转换却阵什算未知样品中各组分的瑕度Xg（2） 偏最小二乘法回归（PLS）偏嚴小二乘启主成甘回归的发展主成分回归只对化学测就矩阵丫进行主成 分分析密浓蛊鉅阵X未加任何姓理亠事实上X矩阵也包含某种信息.很明显 在进行回归分析时能同时考虑F阵和*阵的作用，将能进一步提高方迭的可靠性, 说坝小二乘止足埜于这样的思想，它同时对蛊袒阵和丫矩阵进荷主成分分析*井 贞主因子进行回归.悵戢小二