支持向量机matlab实现

1、支持向量机A=load(h:study.txt); %加载数据X=A(:,1:2); %特征值的数据label=A(:,3); %标签向量b=0; %待优化的参数row,col=size(A); %计算矩阵A的行数和列数iter=0; %迭代次数C=0.4; %最大间隔和分类正确的权重toler=0.001; MAX=40; %最大迭代次数alphas=zeros(row,1);%要求的参数，初始化为0while(iterMAX) iterchange=0; %判断某一次循环中有没有参数改变 for i=1:row fxi=double(alphas.*label)*(X*X(i,:)+b;

2、%第i个的预测值 ei=fxi-double(label(i); %第i个预测值和真实值之差 if (alphas(i)C&label(i)*ei0&label(i)*eitoler) j=i; %产生另外一个值j while j=i j=randint(1,1,row)+1; end fxj=double(alphas.*label)*(X*X(j,:)+b; %第j个的预测值 ej=fxj-double(label(j); %第j个预测值和真实值之差 alphasoldI=alphas(i); %保留参数的值 alphasoldJ=alphas(j); if(label(i)=label(

3、j) %限制求导出来的label(j)的值，在L和H之间 L=max(0,alphas(j)-alphas(i); H=min(C,C+alphas(j)-alphas(i); else L=max(0,alphas(j)+alphas(i)-C); H=min(C,alphas(j)+alphas(i); end if L=H continue; end eta=X(i,:)*X(i,:)+X(j,:)*X(j,:)-2*X(i,:)*X(j,:);% 这部分代码是求求导出来的最优值 if etaH %求出的alphas(j)必须在L和H之间 alphas(j)=H; end if alph

4、as(j)L alphas(j)=L; end if abs(alphas(j)-alphasoldJ)0&alphas(i)0&alphas(j)C b=b2; else b=(b1+b2)/2; end iterchange=iterchange+1; end end if iterchange=0 iter=iter+1; else iter=0; endend支持向量机主要是寻求一种能够最大间隔的超平面，它与logistic所构造的超平面原理不同的是：它主要是寻求局部点最优（也就是支持向量点），logistic是寻求全局最优。构造超平面方程，求出拉格朗日方程，在求出其对偶方程，这个对偶

5、方程用SMO算法求解。实质就是求出那些参数，然后就可以求出W，就可以得出那些方程，就得到分割平面。这个算法的思想是在固定其余参数的时候，求得最优的一个参数，但是只把一个当做参数的话，那么这个参数可以用其他的参数表示，那么这个参数就不是参数。用一对参数把一个用另外一个参数表示，求出最优解。算法流程：遍历每个参数； 这个参数是否满足要求（）对应的代码：fxi=double(alphas.*label)*(X*X(i,:)+b; %第i个的预测值 ei=fxi-double(label(i); %第i个预测值和真实值之差 if (alphas(i)C&label(i)*ei0&label(i)*ei

6、toler) 如果满足要求的话，随机选取另外一个参数，j=i; %产生另外一个值j while j=i j=randint(1,1,row)+1; end fxj=double(alphas.*label)*(X*X(j,:)+b; %第j个的预测值 ej=fxj-double(label(j); %第j个预测值和真实值之差并对两个参数保存下来：alphasoldI=alphas(i); %保留参数的值 alphasoldJ=alphas(j);求导出来的值要限制在一定范围内：if(label(i)=label(j) %限制求导出来的label(j)的值，在L和H之间 L=max(0,label(j)-label(i); H=min(C,C+label(j)-label(i); else L=max(0,label(j)+label(i)-C); H=min(C,label(j)+label(i); endalphas(j)=alphas(j)+label(j)*(ei-ej)/eta; %求出优化后的alphas(j)值if alphas(j)H %求出的alphas(j)必须在L和H之间 alphas(j)=H; end if alphas(j)0