科学计算与数据处理综合设计实验四

1、科学计算与数据处理综合设计 实验四作者: 日期:1、科学计算与数据处理实验报告S313 0 6005 2科学计算与数据处理综合设计实验王腾祥深入研究MATLA B在计算机相关的某一专业领域的综合应用熟悉MA TLAB中专业级T oolbox或Simulink的功能和用法学会综合运用 MATLA B解决并行运算与神经网络 -基于CPU/G PU的并行神 经网络运算CP U并行、标准单线程的神经网络训练与仿真过程x,t =house da t aset;n et1= fee dfor w a rd n e t( 10); net 2= train(net1,x , t );y =s i m (n

2、e t 2,x);二、打开 M A T L AB wor ke rs mat 1 abpoo I open检查w o rk e r数量p oolsize= ma tlab p o ol (' s iz e')三、设置t rain与s im函数中的参数"Useparal 1 e1”为"yen et 2 =t rai n (n et 1 ,x, t, 'U s epara l 1e1 ','ye s')y=s i m ( ne t 2 ,x,'Usep a ral 1e l','yes')四、使用“

3、s howResources”选项证实神经网络运算确实在各个worker上运行。net 2= trai n (ne t1,x,t,' us ePar all e l','yes' ,'showResourc e s',' yes'); y=s i m(n e t2,x,' useParalle l',' yes' ,' show Reso urce s ','ye s ');五、将一个数据集进行随机划分，同时保存到不同的文件 f o r i = 1:matla b p

4、 o ol('s i ze')X = r and ( 2 ,1000);Sa ve ('in p uts' num 2st r(i) ,' x')t=x(1, : ). *x(2,:) +2 *(x (1,: ) + x(2,:); Sa ve( 'ta r g e t' num 2str(i) , 't');clear x tend六、实现并行运算加载数据集endi =1: mat 1 a b p oo1 C siz e ')dat a =l oa d('inputs' n um2s t

5、r(i) ,'x')X ci=dat a .xdata=load (/t arget' num 2 s tr (i), 't') tc i = d ata.t;cl ea r datat2 =c o n fi gu r e(ne t 2,xc 1, tc1); ne t2= t ra in(net2, x c,t c);yc= s im(ne t2, xc)ne七、得到各个 wo r ke r返回的Co mp o site结果 f or i=1:matl a bpoo 1( 'size')y i=yc iend八、GPU并行cou nt=

6、 gpuDeviceCountgp u1 = gp uD ev i ce(1)g puCor es 1 = g p u1.M u lti p ro c essorCount*g pu 1.S I M DW idth net2=tra i n(net 1 ,x,t,' us eGP U','y e s') y= s im (ne t, x,'u s eG PU' ,'y e s')ne t1.trainFcn='tra ins eg'net 2= t r a in (n e t1, x,t, 'use G P

7、 U','yes',' showRe s ou r ces', 'ye s ');Mat 1 a b神经网络4 3个案例分析九、并行运算与神经网络 -基于CPU/GPU的并行神经网络运算 by 王小川（王小川_ m atla b）Emai 1 :十、清空环境变量cl e ar all c Icwar n ing off十一、打开 matlab p oo l m atlab p o ol po o lsize=m a 11十二、加载数据ope na bpool(' siz e');load bodyfa t dataset

8、inputs = bod y fatl n puts;targ et s = body f atT a rge t s;十三、创建一个拟合神经网络hiddenLayer S i ze = 10; ne t = f itnet (hiddenLay e十四、指定输入与输出处理函数隐藏层神经元个数为10 rS iz e); 创建网络(本操作并非必须)n et.i n p uts1. pr oce ss Fens = ' r emovec on s tan trows','ma p m in m ax'n et.ou t put s 2 .p r oce ss F c

9、ns = ' r emove co n sta n t ro w s', 'ma p mi nma x'；十五、设置神经网络的训练、验证、测试数据集划分n et.d i vide F cn = 'di v ider and'随机划分数据集ne t . d i v ideM o d e = 'samp le'划分单位为每一个数据n et.d ivid eParam .t r ainR a tio = 70/ 1 00; 训练集比例15/1 00;验证集比例t i o =1 5/1 00;测试集比例net.divideParam. v

10、a lRati o =.di v i dePar am. te s tR a设置网络的训练函数net . t rainF c n = ' t raini m'Lev en be r g-M arqu ar dt十七、设置网络的误差函数ne t . pe rform F cn = 'mse' Mea n squ a red error十八、设置网络可视化函数net.plotFc n s = 'pl o tpe r form','plottrain sta te',' ploterrhist', 'p l o

11、tre gre ss ion', 'plotfit' ;十九、单线程网络训练t rai n (net,inpu t s,tar ge t s);n et1, tr1t1=to c ;di sp('单线程神经网络的训练时间为'，n um2 str (t 1),'秒');二十、并行网络训练ti cn et2,t r 2 = t r ai n (ne t, i n puts,targe ts, 'use Para I le I' ，y e s', 'showReso ur c es'/ye s')

12、;t2=toc;disp ('并行神经网络的训练时间为/, n um2str( t 2) /秒');卜一、网络效果验证out puts 1= s i m (n et1, i npu t s);outp uts 2= sim( net2,i n puts);e r rors 1 = g su btrac t( targ et s,outpu ts 1);er rors2 = gs ubtr act(targ e ts, out p u ts2);perf ormance1 = pe form(net1,t a rget s ,outpu t s 1 ) pef o rm an c

13、e2 = p erform( net 2 ,t a r ge ts,out pu ts 2)二十二、神经网络可视化f ig u re, p lotpeform( t r1);figu re , p lo t p erfo r m(tr2); figu r e, pl 0 t train state (tr 1 );f i g u re, p lott r ai n st ate(tr2);fig u re ,pl ot re g re s sion (tar g ets,out put s1); f i gu re, p lotregr e ssion(targets, o utputs2);

14、figur e,pl oterrh is t (er r o rs 1); figu r e, plote r rhist (error s2);m atla b p o ol cl o sey= sim (n et2, x , 'useG PU，yes',' s howRe s ou r ce s'/ ye s');Error Histogram with 20 Bins505050503 3 2 2 11Zero Error倍mWss.oEgso-s-二ErrorsError Histogram with 20 Bins60Zero Erroro o

15、 o o5 4 3 2詈丢Sil-卜5 60卜 若P so BPLL. EEL. 980. ss.gL. 耳9L P66L号9.8.6瓦ZL so- m2 器 SON smoErrors:R=0.89144o Data£ o 6 o £ Q4 4 3 3 2 2g + 爲 ffzLgxo 1 芍 dMoFitooo10£oooocoo%o仏。16202530Target35404501040605050606054 433 22 11 -ST L + 爲 6el60 1439302030TargetGradient = 48,6555. at epoch 14P

16、2 o o o o 1 1一 一Mu = 0.01.戲 epoch 14Validation Checks = 6. at epoch 14o o o1niu14126 8 10 U Epochs7Best validation Performance is 233146 at epoch 6TrainValidation Test Besto3 2 1 o o o1 1 1 。血lu)0山 pe3bs UGew210Best Validation Performance is 33.497 at epoch 8Train Validation TestBest46812 Epochs0241

17、012146 814 Epochso3o2 1 o o (Qslu)0山 PQ1enbs ceQW1、 并行平台的通信模型： 共享数据（P OSI X、win dow s线程、 Open MP）、消息交换（MP IPVM）并行算法模型：数据并行 模型、任务依赖图模型、工作池模型、管理者-工作者模型、消费 者模型对于并行计算一个任务可能涉及到的问题 ：任务分解、任 务依赖关系、任务粒度分配、并发度、任务交互。并行算法性能的常见度量值： 并行开销、加速比、效率（加速 比/CPU数）、成本（并行运行时间*CPU数）。2、 人工神经网络就是模拟人思维的第二种方式。 这是一个非线性 动力学系统，其特色在

18、于信息的分布式存储和并行协同处理。虽然单个神经元的结构极其简单，功能有限，但大量神经元构成的网 络系统所能实现的行为却是极其丰富多彩的。3、 总结：人工神经网络可通过硬件或软件方式来实现。硬件方式即神经计算机。目前 较常用的还是软件实现方式。已有许多公司 和研究单位设计了通用的 ANN程序以方便人们使用，m at lab 提供的神经网络工具箱就是其重要代表。神经网络工具箱是在m atlab环境下所开发出来的许多工具箱之一，它是以人工神经网 络理论为基础，用matl ab语言构造出典型神经网络的激活函数，如S型、线性、竞争层、饱和线性等激活函数，使设计者对所选定 网络输出的计算变成对激活函数的调用